Когда интеллект перестаёт быть нашим преимуществом⁠⁠

Мы создаём интеллект, который в какой-то момент может превзойти нас во всём — от логики до интуиции, от расчёта до творчества. То, что ещё недавно считалось фантастикой, сегодня обсуждается на совещаниях правительств и в лабораториях крупнейших компаний. Вопрос уже не в том, возможно ли это, а в том, что будет потом — и какую роль в этом будущем сыграем мы

Если общий искусственный интеллект (AGI, Artificial General Intelligence) — это система, способная решать задачи на уровне человека в разных областях, то искусственный сверхинтеллект (ASI, Artificial Superintelligence) — следующий гипотетический уровень. Он превосходит человека по всем когнитивным параметрам: скорости мышления, глубине анализа, способности к обучению, генерации новых знаний и адаптации. Такой интеллект не имитирует человека — он выходит за пределы нашего мышления, формируя собственные стратегии и цели, которым мы, возможно, не сможем даже дать определение

Но даже если допустить, что сверхразум появится, это не значит, что он будет единым и универсальным. Наоборот — уже сейчас вырисовываются разные сценарии:

Ускоренный интеллект

• Мыслящий как человек, но с колоссальной скоростью. То, на что у нас уходит месяц, он просчитывает за секунды — и делает это в тысячу раз точнее

Коллективный интеллект

• Связь миллионов ИИ и людей в единую сеть, которая действует как цельный разум. Ни один узел не сверхразумен, но система в целом уже да

Оракул

• Всезнающий наблюдатель, который отвечает на любые вопросы, но не вмешивается в происходящее. Самый безопасный сценарий — и самый бесполезный, если что-то пойдёт не так

Исполнитель

• Сверхразум, который делает то, что мы просим. Без интерпретации, без этики, без уточнений — и именно поэтому с высоким риском непреднамеренных последствий

Автономный агент

• Не инструмент, а субъект. Сам выбирает цели, сам действует, и нам остаётся только надеяться, что его ценности не будут конфликтовать с нашими

Симбиот

• Интеллект, встроенный в человека или дополненный человеком. Вместе мы умнее, чем поодиночке — если удастся сохранить баланс

Эволюционный преемник

• Наследник Homo sapiens. Уже не помощник, не продолжение, а новая форма жизни — и, возможно, новый центр истории

Сценариев множество, и ни один из них нельзя считать окончательным. Но все они указывают на одно: сверхразум — это не просто усиленная версия привычного ИИ. Это смена масштаба, смена роли человека, смена самой логики развития. Возможно, мы на пороге новой формы эволюции, где ключевой вопрос — не когда это случится, а успеем ли мы понять, что уже произошло
___

Мы ещё не до конца разобрались в собственном разуме, но уже проектируем новый. Не просто строим новую систему — мы проецируем в неё свои страхи, амбиции и надежды. И если появится нечто умнее нас, оно, возможно, первым делом спросит: а вы сами поняли, зачем это делали?