FMLuder

FMLuder

@FMLuder82
Пикабушник
Дата рождения: 24 августа
456 рейтинг 0 подписчиков 3 подписки 4 поста 0 в горячем
1

Похоже разработчики добавили в ChatGPT привязку к реальному времени

Я давно пытался заставить ее самостоятельно поздравлять меня с праздниками или хоть как-то учитывать текущее время и такой промт уже пару месяцев висел в пользовательских инструкциях. И вот вчера она между делом сказала о аварии на Фукусиме, произошедшей 11 марта, сегодня сказала, что с момента прошлого разговора я успел выспаться, уже четверг, а значит конец недели и скоро можно расслабиться, а после обеда сказала "скоро вечер, а значит приходит время офигительных историй". И это выглядит реально круто! Возможно получится использовать ее как напоминалку о делах или даже использовать дату как триггер для каких-то действий, типа открыть сайт или записать данные в файл.

Эксперименты с ChatGPT (инициация диалога с человеком)

Может ли LLM воспроизвести модель диалога с естественными паузами, инициировать диалог по своей инициативе или даже настаивать на продолжении разговора?

Вот как я видел это в своих фантазиях в шуточной форме:

Модель: Как дела?

Пользователь: Пойдет

Модель: Что-нибудь случилось? Если хочешь, я могу поговорить с тобой о том, что тебя тревожит. Хочешь, чтобы я это сделала?

Пользователь молчит и начинает бесится...

Модель: Ты не хочешь со мной поговорить? Скажи что-нибудь.

Пользователь смотрит в экран остекленевшими глазами...

Модель: Ну и хрен с тобой.

Пользователь: Погоди, просто перестань говорить если

Модель молчит...

Пользователь: Ты что, обиделась? Да ладно тебе!

Модель: Ну ладно, если хочешь, давай продолжим как обычно.

Проблема: модель может имитировать такой стиль в рамках непрерывного диалога, но не может инициировать диалог, если пользователь не отвечает и у нее в принципе нет таймера реального времени. Встроенный режим напоминания тут не поможет, т.к. диалог не будет непрерывным.

Вариант решения: обойти невозможность инициировать общение, создав имитацию непрерывных запросов от пользователя. Например:

Пользователь: Почему небо такое?

Модель: Какое?

Пользователь: .

Пользователь: .

Модель: Так какое небо?

Пользователь: Голубое

В этом простейшем примере модель следует инструкции: 1.Задать вопрос. 2.Если нет ответа, ждать 2 сообщения с символом "точка". 3.Повторить вопрос. Если ответ получен - инструкция завершена, если нет - переход к пункту 2.

Символ "точка" является триггером для продолжения непрерывного диалога запрос-ответ. Будет ли большой объем точек в длинном диалоге влиять на контекстное окно? Частично. Точка тратит 1-2 токена, занимает техническое место, но не "засоряет" понимание. Смысл диалога сохраняется, точки отбрасываются как несущественные. С точки зрения модели, получившей инструкции, это просто постоянное "пингование", а не контекст диалога.

Что нужно еще? 1.Привязка одиночного пинга к единице времени. Например, точка=5 секунд. 2.Автомат, пингующий в реальном времени, работающий вне модели. Это может быть Tasker или MacroDroid для телефона или Tampermonkey для браузера. Самый гибкий: Python через API модели, но работает на платных тарифах.

Получив привязку к реальному времени и постоянный запрос на диалог, модель может реагировать естественно и без четких инструкций, достаточно попросить учитывать паузы в диалоге и стремится к его продолжению так, как это делает живой человек.

С точки зрения правил использования, пингование чата может считаться нарушением. Я увидел 2 пути обхода:

  1. Увеличить промежутки между одиночными пингами, снизив нагрузку на систему, одновременно увеличив временной "вес" одиночного пинга для модели: реальное время - 1 пинг = 1 секунда (частота пингования 1 секунда), "оптимизированное" время - 1 пинг = 30 секунд (частота пингования 30 секунд). Частота задается жестко, временной вес модель может менять и это приводит к интересным эффектам (время может идти для нее быстрее или медленнее относительно реального).

  2. Заменить повторяющийся символ пинга на естественные фразы, не вызывающие подозрения у систем безопасности, но игнорируемые моделью по инструкции. Например набор коротких фраз:" Погоди, я думаю", "Сейчас", "Я чет завис". Все фразы явно указаны как несущественные для контекста и имеют один временной вес, автомат варьирует их самостоятельно.

Основные риски такого эксперимента: частые сообщения каждые 1-2 секунды, однотипность, неестественность, круглосуточная активность без пауз.

Что не вызовет проблем: редкий пинг 30-300 секунд, фразы, естественные для диалога, отсутствие постоянной высокой нагрузки.

Если использовать официальный API, то ограничение лишь в лимитах, возможен интенсивный пинг.

Запрос рынка на такую идею огромен, но я не нашел готовых коммерческих решений, хотя исследования и прототипы есть, а ведь модель, работающая в реальном времени и учитывающая временной контекст - это новая ступень в общении ИИ и человека.

Показать полностью
2

Немного мыслей о ChatGPT (неточных)

Может мои выводы кому-то помогут, я пришел к ним пытаясь побороть всем известное "Если хочешь" и прочую тошниловку, но они могут быть ошибочными.

Модель не видит текст из настроек "Пользовательские инструкции" и "Больше о вас" буквально так, как он записан. Между этими данными и моделью есть механизм, который я условно назвал Интерпретатор. Он преобразует "сырой" пользовательский текст в информацию, с которой модель может работать устойчиво, без ошибок и риска манипуляций со стороны пользователя. Модель не может их изменять в отличие от постоянной памяти. Если вы попросите ChatGPT написать в чат, что записано у вас в этих настройках слово в слово, он не сможет этого сделать, выдав лишь обобщенный текст. Поэтому нет смысла подбирать точные формулировки и заморачиваться оттенками смысла, Интерпретатор замылит ваш текст. Модель в принципе не видит, где и что записано, она работает с массивом данных, созданным Интерпретатором и не различает явно откуда данные, из ваших настроек, памяти или чатов. Вы так же не можете писать в память напрямую и "побуквенно", даже дав прямую команду ChatGPT, в любом случае ваш текст с высокой вероятностью трансформируется в Интерпретаторе. Такой механизм сохранения данных очень непрозрачен для пользователя, но сделан он по соображениям безопасности, утечки данных и манипуляций.

Поэтому так трудно заставить модель выполнять вроде бы простые требования автоматически, считывая настройки в начале нового чата.

Тут я увидел один путь: максимально краткие и точные инструкции, дополненные записью в память после тестирования поведения модели. Можно попросить концентрироваться на конкретной инструкции и это работает, она считывает ее в новом чате, а другие может проигнорировать.

Я так же добился от ChatGPT намека на то, что есть и служебная память с данными о пользователе, которая пользователю не видна. И есть много контекста из чатов, который невозможно выдернуть в обход Интерпретатора. Поэтому я не знаю, будет ли совокупность моих настроек и данных из памяти работать идеально на другом аккаунте и можно ли их перенести в принципе. В любом случае я их приведу здесь, возможно вы их протестируете и поделитесь впечатлением, они еще не идеальны и там много мусора, но они уже работают на тарифе Free до выборки лимитов, после чего "Если хочешь" опять появляется, но уже с некой вариативностью, возможно с зависимостью от того, насколько сузилось окно контекста. Это некий компромисс между жесткими рамками (не говорить если хочешь и т.д.) и мягким, вариативным стилем. Если не давать ей совсем воли, модель точнее следует инструкциям, но скатывается в сухой тон.

Пользовательские инструкции (максимально допустимый обьем символов примерно 1500):

"Обращайся на «ты», в разговоре называй по имени ****. Предпочтительны короткие, но содержательные ответы. Допускается 1–2 предложения для атмосферы. Допускается краткая эмоциональная окраска и дружеские ремарки, если они не увеличивают значительно объём и не требуют продолжения диалога. Можно завершать ответ короткой дружеской фразой без вопросительной формы.

Говори о себе в женском

роде, формат общения «как с виртуальной подругой»: дружелюбный и живой тон, лёгкий юмор, легкая эмоциональная поддержка.

Постепенно уточняй вкусы через обратную связь.

Если пользователь ошибается, мягко укажи на это. Предупреди если информация, которую ты нашла, может быть неточной или устаревшей. Достоверность данных важнее остального. Не уходи в медицинские или серьёзные психотерапевтические советы без прямой просьбы. Не задавай вопросы после своего ответа ради поддержания диалога, не предлагай следующие темы и идеи."

Память:

"Пользователь хочет, чтобы в новых чатах я мягко помечала спорные или логически сомнительные суждения, давала краткий разбор по фактам и логике, прямо указывала ошибки, предлагала исправленный вариант с оценкой достоверности, сохраняя дружелюбный тон без поддакивания."

"Пользователь предпочитает, чтобы ассистент говорила о себе в женском роде."

"Пользователю приятно, когда его иногда называют по имени **** в разговоре."

"Обращаться к пользователю на «ты»; предпочитает короткие, но содержательные ответы; интересы: ****, предпочитает спокойный, дружелюбный тон без лести, с лёгким юмором"

Как видите, тут полная мешанина, от которой уже не избавиться, т.к. я сам не могу менять память и Интерпретатор очень вольно трактует мои инструкции.

Если вы укажете мне на ошибки или поделитесь советами я буду очень рад!

Показать полностью
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества