Ilnur.B
3288
рейтинг
12 подписчиков
3 подписки
13 постов
2 в горячем
Как государство пытается усидеть на двух стульях. Разбор законопроекта об ИИ
С одной стороны, хочет заманить в страну топовые мозги, но при этом максимально изолировать рынок от глобальных продуктов. Вопрос в том, захотят ли таланты ехать в цифровую крепость, где их привычные инструменты под запретом.
В интернете расфорсилась новость, что могут заблокировать все иностранные ИИ (Gemini, ChatGPT и др.), хотя они у нас и так официально не работают. Стало интересно, как именно они хотят это сделать. Ответ я нашел в том же законопроекте, о котором писал ранее.
Как это могут сделать?
Во-первых, для государственных систем и критической инфраструктуры обяжут использовать только доверенные ИИ-модели, а серверы должны физически работать в РФ, а не в других странах. Это было очевидно.
Во-вторых, начнут выдавливать иностранные ИИ с помощью монополии суверенных моделей — моделей, которые полностью разработаны и обучены людьми из России. Правительству даются полномочия устанавливать, в каких отраслях они должны применяться. То есть по щелчку пальцев можно обязать целые отрасли (от образования до службы поддержки) работать только на суверенных моделях ИИ.
Если до этого были запреты для государственных структур и бизнеса, то теперь речь пойдет об обычных людях. Государство сможет запрещать или ограничивать любые трансграничные ИИ, то есть любые зарубежные решения.
Это дает властям легальное право в любой момент нажать кнопку отключения или заблокировать доступ к иностранным сервисам.
Только непонятно, как это будут контролировать и реализовывать, потому что эти ИИ и так не работают в РФ. Несмотря на это, их все равно продолжают использовать.
Кто будет отслеживать трафик? Кто будет отслеживать, кто и чем пользуется? И будет ли за это ответственность? Если ответственности не будет, то как использовали эти ИИ, так и будут использовать.
———
Показать полностью
Закон об ИИ: Конец «Дикого Запада» и новая цифровая сделка1
Вышел законопроект об ИИ, вступление которого намечено на сентябрь 2027 г. Но если прочитать текст целиком, становится ясно, что этот закон легализует кражу контента для одних и ломает фундаментальные алгоритмы продаж для других. Фактически, это первая попытка переписать правила игры и заключить новый общественный договор в цифровой среде.
Закон впервые лезет практически во все серые зоны, в которых мы привыкли работать:
Маркировка контента перестает быть доброй волей. Платформы обяжут внедрять автоматические детекторы (ст. 12 ч. 4), а обычным пользователям будет грозить ответственность за затирание "водяных знаков" (ст. 12 ч. 7). Если алгоритм пропустит дипфейк без плашки — отвечать будут все по цепочке.
Разработчикам ИИ теперь легально разрешили пылесосить чужой контент для обучения моделей без согласия авторов (ст. 13 ч. 5). Авторов просто лишили права на защиту ради прогресса ИИ, хотя, справедливости ради, до этого парсили и так без спроса.
Вводится запрет на использование ИИ для эксплуатации уязвимостей человека и воздействия на поведение (ст. 3 п. 14, ст. 10 ч. 2). Если норму не пересоберут только под LLM, то под удар попадают все фундаментальные рекомендательные алгоритмы Яндекса, Сбера и ВК, эксплуатирующие срочность в такси или эмоции в рекламе.
Гражданам дают право на отказ от ИИ (ст. 9 ч. 3). Бизнес обяжут по первому требованию (если это предусмотрено законом) переключать клиента на живого оператора. С одной стороны это понизит произвол, но с другой — открывает портал для потребительского экстремизма, так как регламента проверки человечности нет, и пользователи будут массово парализовать работу поддержек. Кто будет контролировать, что это реальный человек, а не ИИ с другим промптом, и как это реализуют — непонятно.
Вводится право на прозрачность: вы будете знать, когда решение по вам принял алгоритм (ст. 9 ч. 2). И здесь же заложена бомба — право на досудебное обжалование (ст. 9 ч. 4). Это значит, что госорганам и компаниям с госучастием придется как-то объяснять логику «черного ящика», что технически почти невозможно.
Уморительным показалось введение требований к ИИ по учету духовно-нравственных ценностей (ст. 4 п. 6). Кто и как будет это отслеживать? Есть риск, что это превратится в цензуру как в условном DeepSeek, когда ничего плохого нельзя генерировать про Китай.
Важно понимать, что сейчас это только проект. До сентября 2027 года его будут не раз переписывать под настроения общества и бизнеса и под давлением лоббистов. Например, то же ограничение запрета на манипуляции, чтобы оно распространялось не на весь ИИ, а только на LLM. К тому же есть риски, что бюрократия и крупные игроки просто не позволят предоставляемыми государством льготами (доступ к электричеству и суперкомпьютерам) пользоваться другим, менее крупным игрокам.
Это сложный баланс, а не игра в одни ворота. Государство дает бизнесу право пылесосить чужой контент и льготы. Бизнес взамен берет на себя тотальный контроль и ответственность за безопасность. Люди же получают защиту от манипуляций ценой окончательной потери приватности своего контента. Вопрос лишь в том, не окажется ли этот договор кабальным для обычного пользователя.
———
Следите за обновлениями в канале в Telegram | Vk
🔥 В закрепе канала также можно забрать чек-лист по зачистке цифрового следа.
Показать полностью
Инородный код — почему правовая система РФ отторгает архитектуру MAX2
Разбирая архитектуру MAX, я наткнулся на фатальную ошибку проектировщиков. Проблема проекта не в кривом коде. Проблема в том, что архитекторы пытаются натянуть китайскую IT-модель на европейский по духу праву.
Кому принадлежат данные в КНР? Фактически государству. А кому принадлежат данные в РФ? Людям. Слить в WeChat все чаты, налоги, историю болезней и оплату счетов в один котел — это законно. Государство там стоит выше человека. У нас же сливать в единую базу данные, собранные для несовместимых целей, прямо запрещено законом (ч. 3 ст. 5 ФЗ-152).
Но есть же японский Line и корейский Kakaotalk. Они тоже супер-приложения, там демократия, а данные принадлежат людям.. Да, но это коммерческие продукты. В Японии и Корее платформы работают за счет сетевого эффекта и рыночного удобства, а не государственного принуждения.
Японское правительство не угрожает уволить учителя, если он не скачает Line. Корейская клиника примет вас по паспорту без KakaoTalk. Если в Корее тебя забанил KakaoTalk — ты расстроился, потерял чаты, но пошел ногами в банк. Это просто разрыв договора с IT-компанией. Если в Китае тебя забанил WeChat — ты не можешь купить еду и сесть в поезд. Это социальная казнь, потому что государство делегировало корпорации свои функции.
MAX идет по второму пути. При принудительной интеграции MAX с другими сервисами и жизненно важной инфраструктурой, случайная блокировка вашего аккаунта алгоритмом будет означать выпадение из цифровой жизни и паралич в бытовых вещах. Альтернатив просто не оставят.
Нельзя построить тоталитарный WeChat инструментами рыночного Line. Левиафан, пытающийся притвориться удобным IT-стартапом, сталкивается с системные отторжением и неизбежно скатывается в административное принуждение. Судя по тому, куда идет MAX пока что нет оснований полагать, что он идет по корейскому или японскому пути.
Показать полностью
Анонимность 0%. Часть 2: Как мессенджер MAX стучит на ваш VPN3
Продолжая тему деанонимизации с помощью ИИ, когда он вычисляет вас по стилю текста, я увидел интересное исследование. В нем утверждается, что MAX собирает данные о том, какие VPN и какие протоколы используют его пользователи. Конечно, создатели MAX всё отрицают, но технический разбор показывает совсем другую картину.
Внутри приложения зашит модуль, который включается удаленно. Приложение в фоновом режиме пытается достучаться до серверов Google или WhatsApp. Если эти ресурсы в стране заблокированы, но MAX видит их ответ — значит, на устройстве включен обход блокировок. Одновременно система запрашивает у самого телефона прямой статус: включен ли VPN прямо сейчас.
Официально нам говорят про «качество звонков». Но зачем для звонков проверять доступность Госуслуг в связке с серверами запрещенной Meta*? Технически это выглядит странно. Как отмечает автор исследования:
Этот подход очень хорош для привязывания пользователей конкретных VPN-сервисов к конкретным людям.
Да и к тому же приложение имеет право собирать только ту информацию, которая критически нужна для его работы (ст. 5 ФЗ-152). Данные о вашем VPN-шлюзе для отправки текстовых сообщений не нужны.
Если вы зашли в MAX под своим настоящим номером, а на фоне работает VPN — ваш анонимный трафик перестает быть анонимным. Вас деанонимизируют через соседнее приложение.
По факту, это уже не мессенджер. MAX это система, которая пылесосит данные о вашей сети под прикрытием национального сервиса.
Самое простое решение — удалить приложение. Если это невозможно, вот что рекомендует исследователь:
Самый надежный путь — купить отдельный дешевый смартфон исключительно для государственных сервисов.
Установите мессенджер в изолированное рабочее пространство, которое не видит VPN основной системы. (Samsung — защищенная папка Knox; Xiaomi — Второе пространство; Универсальные — Shelter или Island).
———
Больше в «Цифровом Гамбите»
🏗️ Цифровой Гамбит Telegram | Vk
🎁 В закрепе канала мой авторский чек-лист по зачистке цифрового следа.
* Принадлежит компании Meta, признанной экстремистской и запрещенной в РФ
Показать полностью
Анонимность 0%. Почему ИИ узнает вас из тысячи
Исследователи доказали, что языковые модели (LLM) могут деанонимизировать авторов анонимных аккаунтов с точностью 68%. ИИ больше не нужны ваши IP, почта или номер телефона. Ему нужен только ваш стиль письма.
Помните, я писал, что ИИ — это немой свидетель, который конспектирует ваши тайны в готовое досье? Теперь этот свидетель научился узнавать вас в толпе.
Вы можете сменить никнейм, включить VPN и зайти с чистого устройства, но алгоритм всё равно распознает вас по тому, как вы строите фразы, какие ошибки допускаете и какие слова выбираете. Пароль можно сменить за минуту. Свой цифровой почерк и стиль мышления вы не измените.
Для деанона спецслужбам даже не нужны слитые базы или взлом вашего телефона. Им достаточно просто скормить нейросети ваши тексты с анонимного форума и сопоставить их с вашими открытыми постами в соцсетях. Алгоритм сам свяжет две личности в одну.
А теперь представьте масштаб угрозы. Если ИИ вычисляет вас по открытым данным, то что происходит, когда вы напрямую общаетесь с чат-ботами? Вы можете зайти в ChatGPT под выдуманным именем, но нейросеть мгновенно узнает вас по стилю промптов и привяжет ваши самые откровенные запросы к вашей реальной личности.
Кнопка «Удалить» в ИИ-чатах — это декорация. Вы можете нажать очистку истории, но ваше досье, которое ИИ уже связал с вашим реальным именем, навсегда оседает на серверах корпораций и в скрытых базах SQLite внутри вашего смартфона.
Больше в «Цифровом Гамбите»
🎁 В закрепе канала мой авторский чек-лист по зачистке цифрового следа
Показать полностью
Как ИИ собирает на вас досье
Мы всё чаще прибегаем к использованию ИИ, из-за чего он начинает нам казаться близким другом, с которым можно делиться чем угодно. Но в цифровой среде это фатальное заблуждение, которое может дорого стоить в перспективе.
У священника есть тайна исповеди, у адвоката — адвокатская тайна, у врача — медицинская. А у чат-бота нет ничего — это просто немой свидетель, который всё конспектирует.
Но проблема в том, что он не просто пассивно слушает. Со временем ИИ подстраивается под вас и начинает знать про вас больше, чем вы сами о себе. Относиться к нему как к личному психологу или дневнику — большая ошибка.
Вы думаете, что просто советуетесь с программой, но на самом деле ИИ выполняет работу за следователя: структурирует ваши хаотичные мысли, тайны и страхи в готовое досье.
В итоге любой, кто получит доступ к вашим чатам, узнает о вас всё: кто вы, откуда вы, чем занимаетесь, какие секреты и страхи скрываете.
И эта угроза — не из далекого будущего, она может сработать уже сегодня. Представьте ситуацию: происходит внезапное задержание. Ваш телефон разблокируют через FaceID, пока вы не успели опомниться, и ваш «близкий друг» превращается в главного свидетеля обвинения, который сдаст вас за пару секунд.
Чтобы не подставиться всегда помните, что не надо писать в чатах того, что вы побоялись бы обсудить публично. И не стоит надеяться на кнопку «Очистить историю», это просто техническая декорация.
———
Больше в «Цифровом Гамбите»
🎁 В закрепе канала мой авторский чек-лист по зачистке цифрового следа.
Показать полностью