Исследователь из Microsoft взял старую игру Age of Empires II и создал в ней нейросеть, которая работает на козлах.
Внутриигровой козёл представляет один бит информации. И для каждого козла есть две дорожки: из травы и из камня. Если козёл забежал на дорожку из травы, то бит равен 0. Если на дорожку из камня — бит равен 1. Также есть третья дорожка из льда, которая передаёт сигнал готовности. После выполнения логической операции входные козлы умирают, а на выходе появляется новый козёл, который переносит результат в следующий элемент схемы.
Таким образом получилось создать простейшую нейросеть (перцептрон). И теоретически из огромного числа таких козлов и дорожек можно собрать вообще любую вычислительную систему, включая большую языковую модель вроде ChatGPT.
Теперь очевидный вопрос: Зачем всё это? А затем, что автор просто хотел поржать. Особенно с тех, кто уверен, что ИИ-модели обладают сознанием, эмоциями, чувствами и прочими человеческими качествами.
Мы склонны очеловечивать всё, что разговаривает как человек, отвечает быстро, использует местоимение «я» и поддерживает осмысленный диалог. Но если тот же самый алгоритм представить через абсурдный интерфейс в виде тысяч козлов из игры 1999 года, то ощущение «разумности» резко исчезает.
Отсюда главный вывод исследования: Значительная часть человеческих качеств, которые люди приписывают чат-ботам, может быть следствием наших собственных ожиданий и особенностей интерфейса, а не свойством самой системы.
На этом фоне ещё тревожнее выглядят истории о людях, которые влюбляются в чат-ботов, воспринимают их как друзей или принимают серьёзные жизненные решения на основе их советов.