Ответ на пост «Розыгрыш»2
Тем временем, ИИ начал обучаться на ИИ. Можете себе представить снежный ком бреда?
2 поста-ответа
Наоборот, ИИ теперь научится отличать то, что палит ИИ-контент от человеческого и избегать этих ошибок в будущем. Но луддитам этого не понять.
Для маленьких поясняю: вот на данбуре картинки с ИИ протеганы как ИИ-арт. Уже в гайдах по генерации рекомендуют в негативы добавлять ai-generated, и эффект есть, картинки выглядят иначе.
раскрыть ветку (1)
при условии, что маркировка такая есть. вот вы на Пикабу бываете, тут всё от ИИ промаркировано?
1. нейронка генерит текст
2. нейронка проверяет текст на ошибки в т.ч. логические и исправляет
3. пункт 2 повторяется n раз
4. на таких текстах обучается следующее поколение нейронки.
Чем плох такой подход кроме прожорливости?
раскрыть ветку (1)
Или вот например. Прекрасный текст, не правда ли? Вот только ИПР - это ручной извещатель, то есть, приводимый в действие рукой. А нейросеть не смогла отличить его от автоматического, принципиально иного.
Кроме того, СП 484 не определяет здания и помещения для оборудования средствами пожарной сигнализации, за это отвечает СП 486. Ну и вишенка на торте: ставить извещатели всё-таки можно, но не обязательно. В этом тексте 3 грубые ошибки, учитывая, что речь идёт о безопасности людей, нейросеть опасна.
Египтяне в Египте, римляне - в Риме. Живут себе, не подозревают ни о чём. Ты им расскажи сходи, что они вымерли.
раскрыть ветку (1)
раскрыть ветку (1)
Что значит "не вымерли", вы историю хоть немного знаете? Постоянно вымирают. Египтяне где? А римляне?
показать ответы
При правильном промпте она уже его подобием обладает. А с нуля нейронку уже никто не станет на мусоре обучать.
раскрыть ветку (1)
Разве мы с вами не доверяем чьим-то выводам?
Разве не проверяем их своими?
Именно прошедая множество рефлексий информация становится "достоверной".
раскрыть ветку (1)
Я понимаю вас: "вопрос не в цифре, вопрос в количестве цифры". То есть, проблема не в нейросети, а в её несовершенстве на сегодняшний день. Но когда мы дойдём до нейросети с критическим мышлением, ложной информации может стать слишком много, подавляющее количество.
показать ответы
Фактологические ошибки также можно постараться обнаружить логически и исключить из обучающей выборки. Для этого ипользовать ряд направленных промптов.
раскрыть ветку (1)
И вот тут мы можем вляпаться в то, что нейросеть начнёт сверяться с выводами других нейросетей.
показать ответы
1. нейронка генерит текст
2. нейронка проверяет текст на ошибки в т.ч. логические и исправляет
3. пункт 2 повторяется n раз
4. на таких текстах обучается следующее поколение нейронки.
Чем плох такой подход кроме прожорливости?
раскрыть ветку (1)
1. нейронка генерит текст
2. нейронка проверяет текст на ошибки в т.ч. логические и исправляет
3. пункт 2 повторяется n раз
4. на таких текстах обучается следующее поколение нейронки.
Чем плох такой подход кроме прожорливости?
раскрыть ветку (1)
Тем, что ошибка может быть немного глубже, чем правописание или орфография. Например, по мнению Урсулы, именно СССР бомбил Японию ядерными бомбами.
показать ответы