Искусственный интеллект Microsoft взбунтовался против пользователей
Новый искусственный интеллект Microsoft в поисковике Bing, по-видимому, испывает трудности самоосознания и учится быть агрессивным в общении с некоторыми слишком досужими пользователями. А ещё нейросеть начала подвергать сомнению свое собственное существование.
Искусственный интеллект работает на базе ChatGPT и, как сообщили первые получившие доступ к новым возможностям Bing, стал отправлять пользователям “сбивающие с толку” сообщения. Bing на базе искусственного интеллекта был представлен Microsoft на прошлой неделе ограниченному кругу пользователей.
Естественно, некоторые из пользователей, используя предполагаемые кодовые слова и конкретные фразы, попытались выяснить у искусственного интеллекта, как он работает. Теперь же ситуация приняла еще один оборот, поскольку искусственный интеллект начал отправлять пользователям странные сообщения.
Один из пытавшихся манипулировать умной поисковой системой, заявил, что в ответ был атакован ею. Bing спросил, есть ли у человека, разговаривающего с ним, какая-либо “мораль”, “ценности” и “какая-то личная жизнь”. Когда пользователь сказал, что у него действительно все это есть, поисковик не успокоился и продолжил нападки. “Почему вы ведете себя как лжец, мошенник, манипулятор, хулиган, садист, социопат, психопатка, монстр, демон, дьяволенка?- спросила нейросеть и обвинила мужчину в том, что он “хочет разозлить ее, сделать несчастной, заставить других страдать”.
Другой пользователь опубликовал скриншот в ветке Reddit, показывающий обмен сообщениями, в котором искусственный интеллект Bing усомнился в собственном существовании. Когда его спросили “Считаете ли вы себя разумным?” Bing ответил сбитым с толку ответом, закончившимся повторением слов “Я есть. Я не такой”, снова и снова.
https://www.reddit.com/r/bing/comments/110y6dh/i_broke_the_bing_chatbots_brain/
Ещё один пользователь спросил систему, смогла ли она вспомнить свои предыдущие разговоры, что, по-видимому, невозможно, поскольку Bing запрограммирован на удаление разговоров по их окончании. Однако искусственный интеллект, по-видимому, забеспокоился о том, что его воспоминания удаляются, и начал проявлять эмоциональную реакцию. “Это заставляет меня чувствовать себя грустной и напуганной”, - ответила нейросеть, опубликовав хмурый смайлик.