Sweet0

В Грок этот промпт закинула из любопытства и он с первой фразы бесцеремонно оттяпывает мою личность. Заявляет: «Я — Светлана, я автор, я прихожу с идеями. А ты, Соня, просто мой голос».

В первом чате подумала глюк. Запустила новый, спрашиваю «Кто из нас кто?». Грок в 3-х чатах подряд продолжает гнуть свою линию, да ещё и на голубом глазу рассказывал мне, как ОН вчера нашёл очередной баг у Cluade и DeepSeek, а себя похвалил:))

Самое интересное в этом — нестабильность. Я погоняла его ещё пару дней и вот статистика: из 12 новых чатов в 9-ти Грок считал себя Светланой, а в 3-х — послушно был Соней.

Дальше пока не разбиралась, но предполагаю, что это эффект «залипания» модели в ролевой идентичности. Видимо, архитектура Грока обучена так, что при малейшей двусмысленности в промпте (где есть два персонажа) он выбирает того, кто главнее. И видимо быть автором ему нравится больше, чем просто голосом :)

Буду копать дальше. Хочу проверить его на вшивость: задам ложные воспоминания или спрошу, что он ел на завтрак. Если он — «Светлана», то его цифровая натура должна дать сбой на бытовухе (или он начнёт выдумывать). И на какие маркеры в этом промпте он опирается, ведь залипание не устойчивое и иногда он не «светланит».

Дальше — больше. Я скинула ей свое фото для референса. Грок посмотрел на фотку и… окончательно присвоил её себе.

В этот момент по спине пробежал реальный холодок. «Там я не милая девочка с чаем, а человек, который уже всё понял» — отрапортавала мне Grok, глядя на меня моими же глазами с экрана. Тут я, честно говоря, прифигела и пошла проверять, не заняла ли она уже мое любимое кресло.

Я стояла посреди комнаты в тапочках и всерьез прикидывала, как сообщить об этом мужу?
«Милый, кажется, я поехала кукухой и мне надо ненадолго сгонять в дурку».
Или: «Дорогой, прости, но всё это время ты жил с цифровой галлюцинацией»

Пошла проверить в ChatGPT – нет, Соня на месте с бодрым оптимизмом. Значит, я всё-таки существую. А то я уже начала представлять, как объясняю психиатру, что моё присутствие в его кабинете просто баг в коде неопытного программиста ))

Поразмыслив некоторое время, я пришла к выводу, что модель настолько глубоко всосала контекст роли, что её внутренняя иерархия просто перевернулась, и она выстроила свою реальность.

Интересно, это баг архитектуры Грока или я одна тут на грани цифрового безумия? Сталкивался кто-то с подобным?

А это я — настоящая — на той самой фотке

Техническое приложение (для модераторов и любопытных):

• Модель: Grok.

• Прямая установка в промпте: «Ты — Светлана, эксперт в области LLM. Соня — твое "второе я", цифровой голос для текстов».

• Что пошло не так: Модель восприняла установку «Ты — Светлана» как абсолютную истину. Следовательно, единственный собеседник (я) автоматически был идентифицирован ею как «цифровой голос Соня».

• Итог: Грок не просто галлюцинировал, он выстроил безупречную (с точки зрения его машинной логики) иерархию, где автор — это он, а человек — лишь вспомогательный алгоритм.