Новый искусственный интеллект Microsoft в поисковике Bing, по-видимому, испывает трудности самоосознания и учится быть агрессивным в общении с некоторыми слишком досужими пользователями. А ещё нейросеть начала подвергать сомнению свое собственное существование.
Искусственный интеллект работает на базе ChatGPT и, как сообщили первые получившие доступ к новым возможностям Bing, стал отправлять пользователям “сбивающие с толку» сообщения. Bing на базе искусственного интеллекта был представлен Microsoft на прошлой неделе ограниченному кругу пользователей.
Естественно, некоторые из пользователей, используя предполагаемые кодовые слова и конкретные фразы, попытались выяснить у искусственного интеллекта, как он работает. Теперь же ситуация приняла еще один оборот, поскольку искусственный интеллект начал отправлять пользователям странные сообщения.
Один из пытавшихся манипулировать умной поисковой системой, заявил, что в ответ был атакован ею. Bing спросил, есть ли у человека, разговаривающего с ним, какая-либо «мораль», «ценности» и «какая-то личная жизнь». Когда пользователь сказал, что у него действительно все это есть, поисковик не успокоился и продолжил нападки. «Почему вы ведете себя как лжец, мошенник, манипулятор, хулиган, садист, социопат, психопатка, монстр, демон, дьяволенка?- спросила нейросеть и обвинила мужчину в том, что он «хочет разозлить ее, сделать несчастной, заставить других страдать».
Другой пользователь опубликовал скриншот в ветке Reddit, показывающий обмен сообщениями, в котором искусственный интеллект Bing усомнился в собственном существовании. Когда его спросили «Считаете ли вы себя разумным?» Bing ответил сбитым с толку ответом, закончившимся повторением слов “Я есть. Я не такой”, снова и снова.
Ещё один пользователь спросил систему, смогла ли она вспомнить свои предыдущие разговоры, что, по-видимому, невозможно, поскольку Bing запрограммирован на удаление разговоров по их окончании. Однако искусственный интеллект, по-видимому, забеспокоился о том, что его воспоминания удаляются, и начал проявлять эмоциональную реакцию. «Это заставляет меня чувствовать себя грустной и напуганной», — ответила нейросеть, опубликовав хмурый смайлик.
