Сенаторы призывают к зонду в Мете после новостей о беседах ИИ с детьми

Автор: Джейкоб Бург, The Epoch Times (выделено нами),

14 августа два сенатора-республиканца призвали Конгресс провести расследование в отношении Meta Platforms, материнской компании Facebook. После недавнего сообщения в СМИ выяснилось, что чат-боты компании имели «романтические или чувственные» разговоры с ребенком.

Офисы Meta в Менло-Парке, Калифорния, 31 июля 2025 года. Джон Фредрикс / The Epoch Times

В четверг агентство Reuters сообщило, что оно ознакомилось с политическим документом Meta, подробно описывающим политику поведения чат-ботов. Это позволило технологии «вовлекать ребенка в романтические или чувственные разговоры». генерировать неправильную медицинскую информацию и помогать пользователям в утверждении, что «черные люди глупее белых». "

Хотя Meta подтвердила подлинность документа, компания заявила, что после недавнего получения вопросов от Reuters она удалила части, в которых говорилось, что чат-боту разрешено флиртовать или участвовать в романтической ролевой игре с детьми.

Энди Стоун, представитель Meta, сказал, что компания в настоящее время пересматривает документы и что такие разговоры с детьми никогда не должны были быть разрешены.

"Примеры и примечания, о которых идет речь, были и являются ошибочными и несовместимыми с нашей политикой, и были удалены.Стоун рассказал Reuters. «У нас есть четкая политика в отношении того, какие ответы могут предложить персонажи ИИ, и эта политика запрещает контент, который сексуализирует детей и играет сексуальную роль между взрослыми и несовершеннолетними. "

На платформе X сенатор Джош Хоули (R-Mo.) раскритиковал компанию за то, что она якобы внесла изменения только после того, как была допрошена Reuters.

"Таким образом, только после того, как Meta получила CAUGHT, она отозвала часть своего корпоративного документа, который считал допустимым для чат-ботов флиртовать и участвовать в романтических ролевых играх с детьми.— сказал Хоули. "Это является основанием для немедленного расследования в Конгрессе. "

Представитель сенатора Марши Блэкберн (R-Tenn.) заявила, что поддерживает исследование Meta.

После того, как Хоули призвал к расследованию, представитель Meta повторил предыдущее заявление компании. Однако представитель отказался комментировать замечания Хоули.

По словам Блэкберна, в докладе подчеркивается необходимость проведения реформ для лучшей защиты детей в Интернете, таких как Закон о безопасности детей в Интернете. Сенатор выступил соавтором законопроекта, который был принят в Сенате в прошлом году двумя партиями 91-3 голосами, но потерпел неудачу в Палате представителей.

В законопроекте содержится призыв к определенным платформам, таким, как социальные сети, "принять разумные меры при разработке и эксплуатации продуктов или услуг, используемых несовершеннолетними для предотвращения и смягчения определенного вреда, который может возникнуть в результате такого использования (например, сексуальной эксплуатации и онлайн-издевательств). "

"Кроме того, защищенные платформы должны предоставлять (1) несовершеннолетним определенные гарантии, такие как настройки, которые ограничивают доступ к личным данным несовершеннолетних; и (2) родителям или опекунам инструменты для контроля использования несовершеннолетними платформы, такие как контроль конфиденциальности и настроек учетной записи.- говорится в законопроекте.

В мае Blackburn вновь ввела закон о безопасности детей в Интернете.

«Когда речь заходит о защите драгоценных детей в Интернете, Meta терпит неудачу всеми возможными способами. Что еще хуже, компания закрыла глаза на разрушительные последствия разработки своих платформ, - сказал Блэкберн.

Законодательство также четко определяет «обязанность по уходу», которую компании социальных сетей используют в отношении использования несовершеннолетними своих продуктов, уделяя особое внимание регулированию компаний и проектов платформ.

Мета-документ утверждает, что стандарты не обязательно отражают «идеальные или даже предпочтительные» генеративные выходы ИИ. Об этом сообщает Reuters. Тем не менее, провокационные выходы ботов были разрешены, показал анализ новостного издания.

The Epoch Times не проверяла документ независимо.

Сенатор Рон Уайден назвал стандарты «глубоко тревожными и неправильными». Он сказал, что раздел 230, закон, который защищает интернет-компании от ответственности за заявления или контент, размещенный на их платформах, не должен распространяться на защиту генеративных чат-ботов.

«Мета и Цукерберг должны нести полную ответственность за любой вред, который наносят эти боты», — сказал Уайден.

Сенатор Питер Уэлч (D-Vt.) сказал, что отчет Reuters «показывает, насколько важны гарантии для ИИ, особенно когда здоровье и безопасность детей находятся под угрозой». "