Искусственный интеллект оказался чересчур умным:
Facebook отключил чат-ботов, создавших собственный языкСоциальная сеть Facebook была вынуждена остановить свой эксперимент с использованием системы искусственного интеллекта из-за «непредсказуемого поведения» новых технологий. Изначально все чат-боты, созданные для того, чтобы отвечать на вопросы пользователей, говорили на английском языке, но потом что-то пошло не так…
Неожиданно для программистов чат-боты по имени Боб и Элис стали общаться между собой на собственном языке. Вернее, он состоял из несвязного набора слов, совершенно непонятного человеку. Беседа двух машин выглядела примерно так:
Боб: я могу я я всё остальное . . . . . . . . . . . . . .
Элис: шары имеют ноль ко мне ко мне ко мне ко мне ко мне ко мне ко мне ко мне ко
Боб: ты я всё остальное . . . . . . . . . . . . . . . .
Элис: у шаров есть шар ко мне ко мне ко мне ко мне ко мне ко мне ко мне ко мне
Боб: я я могу я я я все остальное . . . . . . . . . . . .
Казалось бы, полнейшая бессмыслица, однако программисты пришли к выводу, что боты всё-таки нашли «общий язык». Искусственный интеллект, не имея ограничений в выборе языка, постепенно сгенерировал свою собственную систему коммуникации для простого и быстрого обмена информацией.
Разумеется, людям такая самодеятельность не понравилась, и «разговорчики» тут же прекратили, отключив слишком умных ботов и перепрограммировав остальных исключительно на англоязычное общение. Как никак, робота можно научить говорить на человеческом языке, а вот научиться понимать язык роботов человек вряд ли сможет.
Инцидент с чат-ботами дал людям повод лишний раз пофантазировать о восстании машин и роботах-захватчиках. Дескать, мало ли о чём договаривались между собой коварные программы. А недавно Илон Маск, основатель SpaceX, Tesla и PayPal, заявил о том, что искусственный интеллект представляет величайшую угрозу для человечества, и если власти не бут регулировать процесс развития этих технологий, случится непоправимое: роботы начнут убивать людей.
В свою очередь, основатель Facebook Марк Цукерберг заверил, что в ближайшие годы искусственный интеллект будет делать жизнь человека только лучше. Мнение роботов по этому поводу неизвестно: их лишили права голоса.