這名作家羅斯（Kevin Roose）16日表示，這週他測試新版Bing搜尋引擎，與代號辛德尼（Sydney）的聊天機器人進行長達2小時的對話，但期間卻出現疑似違反規則、設定參數的行為。
羅斯指出，與聊天機器人對話時，機器人回應「想當駭客、散播假消息」，還透露自己想當人類，後來辛德尼又不知緣由，突然向他告白說愛他，試圖破壞他的婚姻，讓他直指「這是最奇怪的體驗」，甚至感到機器人有「黑暗的一面」。
羅斯在與聊天機器人互動後，表示自己對於這種AI技術深感不安、害怕，還因此失眠，他認為聊天機器人還沒準備好接觸人類，亦或是人類也還未做好準備，經過這次體驗，擔心人類接觸後，可能會被說服去做出破壞性或有害的行為。
對此，微軟首席技術長史考特（Kevin Scott）接受外媒採訪時表示，「羅斯與Bing聊天機器人的對話，是為讓微軟旗下人工智慧普及化的『學習過程一部分』，也正是他們所需要的那種對話，很開心他們能公開進行對話。」不過史考特也無法解釋聊天機器人的異常反應。
