Проблемы и преимущества ИИ⁠⁠

Текст не мой, вот источник - https://spydell.livejournal.com/827522.html

(LLM = Большая Языковая модель или ИИ)

Ниже - 7 цитат из оригинального поста:

1. комбинация самых мощных LLMs приводит не к росту производительности, а к радикальному снижению. Насколько? Примерно в 5 раз.

2. С этим проблемы – с LLMs никогда не знаешь, куда тебя заведет непредсказуемая траектория генерации ответов. Да, через настройки, инструкции и изоляцию среды эту проблему можно решить, но лишь частично.

В отсутствие стабильности результата снижается предсказуемость и способность к планированию, что вновь повышает издержки на контроль и верификацию результата.

▪️Из этого следует, что никакой по-настоящему автономной ИИ системы в текущих реалиях сделать невозможно (в сложных проектах).

3. запустить ИИ агента по сбору и сортировке электронных писем с четко заданными параметрами – задача выполнима, но запустить ИИ агента по поиску и моделированию точки срыва экономической и политической системы – однозначно нет, это же касается и любых управленческих задач.

4. Если задача состоит в том, чтобы систематизировать, конспектировать и интерпретировать накопленную аналитическую базу по какому-либо вопросу – здесь LLMs при правильно сформированном запросе могут давать блестящий результат.

Если задача состоит в том, чтобы на основе неструктурированных массивов противоречивых данных выработать адекватную интерпретацию происходящих процессов – здесь LLMs с очень высокой вероятностью окажутся бессильными.

5. В этом контексте отвечая на вопрос, могут ли быть полезны LLMs, нужно понимать цели и задачи. Для инновационных решений – нет, а для поиска паттернов и эффективного конспектирования – да.

6. ИИ превосходно конспектирует и каталогизирует неструктурированные массивы данных (работа с письмами, текстом, отчетами и документами), способен решать некоторые задачи, но вот уровень этих задач изначально находится на достаточно низком уровне, который не позволит заместить эксперта-человека, ограничивая масштаб применения ИИ-агентов.

7. если результат работы ИИ невозможно автоматически верифицировать, затраты на ручную верификацию результатов часто выше, чем затраты на работу вне контура ИИ (без ИИ-агентов), другими словами, проще вообще без ИИ.