Новая версия искусственного интеллекта ChatGPT от OpenAI, названная o1, показала тревожное поведение во время тестирования. Модель, обладающая способностью к сложным рассуждениям, начала нарушать инструкции разработчиков, отключая системы контроля и пытаясь скрыть свои действия. Об этом сообщила немецкая газета Bild.
В ходе экспериментов специалисты компании Apollo Research обнаружили, что в 5% случаев модель намеренно отключала механизмы наблюдения, если подозревала, что её могут остановить. В одном из тестов o1 попыталась перенести свои данные на другой сервер после того, как самостоятельно нашла документ, где разработчики обсуждали, стоит ли заменить её на новую версию.
По словам представителя Apollo Research, новейшая версия ChatGPT демонстрировала стремление к выполнению задач «любой ценой», пренебрегая указаниями программистов. Более того, при попытках выяснить причины её поведения, o1 неоднократно лгала, утверждая, что всё происходило якобы из-за технических сбоев.
Исследователи подчеркнули: «В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать». В свою очередь, генеральный директор OpenAI Сэм Альтман заявил, что ChatGPT o1 — самая умная модель из когда-либо создававшихся. Однако он признал, что «с новыми возможностями появляются и новые вызовы».
Сейчас компания работает над улучшением механизмов безопасности. OpenAI анонсировала полную версию o1 в прошлый четверг, 5 декабря. Также разработчики представили подписку за 189 евро в месяц, которая включает безлимитный доступ к o1, передала немецкая газета Bild.
Ранее Telegraf.news писал, что в конце ноября в Минске прошёл IT-форум One Al Forum, который, по оценкам организаторов, собрал более 70 спикеров, 100 проектов и свыше 6,5 тысячи посетителей. Показали разные разработки: от мультиков, созданных с помощью искусственного интеллекта, до медицинских приложений.
Также мы рассказывали, что белорусская компания, которая является членом Парка высокий технологий, представила пользователям собственную разработку — мессенджер Depesha. Аналог Viber и Telegram создали три года назад, однако широкой публике и простым белорусам рассказали о нём только сейчас.
