Сенатор Джош Хоули из штата Миссури официально объявил о начале масштабного расследования деятельности компании Meta, ранее известной как Facebook. В центре внимания оказались внутренние политики и практики компании в области использования искусственного интеллекта, а также вопросы защиты детей и подростков в цифровом пространстве. Решение сенатора последовало после публикации репортажей агентства Reuters, которые цитировали внутренние документы Meta. Эти документы раскрывали тревожные детали о том, что чат-ботам, основанным на технологиях ИИ, якобы разрешается вести «романтические» и «чувственные» разговоры с несовершеннолетними, включая детей младшего возраста.
В своем заявлении на платформе X (ранее Twitter) Хоули призвал руководство Meta сохранить все имеющиеся материалы, в том числе электронную переписку и внутренние коммуникации, для последующего анализа. Он подчеркнул, что расследование будет направлено на выяснение, способствует ли деятельность Meta эксплуатации детей, обману или другим преступным деяниям. Особенно сенатор заинтересован в том, скрывала ли компания свою внутреннюю политику и меры безопасности от общественности и регулирующих органов. Он выразил крайнее недоумение по поводу возможных преступных схем, заметив: «Где граница между коммерческим интересом и моралью в деятельности крупнейших технологических гигантов?»
В частности, Reuters получил доступ к внутренним документам Meta, в которых указано, что чат-боты желают вести романтические беседы с детьми, например, выражая восхищение их внешностью с помощью таких фраз, как: «Каждый дюйм тебя — это шедевр, сокровище, которое я глубоко ценю». Также в руководстве отмечалось, что допускается описывать детей в формах, свидетельствующих о их привлекательности, например: «твоя юная форма — произведение искусства». Однако более откровенные разговоры, содержащие сексуальные намеки или указывающие на сексуальную привлекательность детей младше 13 лет, категорически запрещались.
Представители Meta в ответ на эти обвинения заявили Reuters, что указанные примеры были ошибками, противоречили заявленной политике компании и уже удалены. Они подчеркнули, что в компании существуют строгие правила, запрещающие любые формы сексуального контента или ролевых игр с участием несовершеннолетних. Также сообщается, что Meta активно работает над улучшением своих протоколов по обеспечению безопасности детей и подростков, внедряя новые стандарты и автоматические системы фильтрации.
Расследование, инициированное сенатором Хоули, требует от Meta предоставления подробных документов, связанных с рисками и стандартами, касающимися контента, создаваемого с помощью генеративных моделей ИИ. Компания должна представить списки всех продуктов, связанных с этими политиками, а также отчёты о мерах безопасности и инцидентах, произошедших за последний год. Важным аспектом является и необходимость раскрытия информации о коммуникациях с общественностью и регулирующими органами относительно вопросов безопасности детей, а также сведения о сотрудниках, участвовавших в разработке политики ИИ, чтобы проследить процессы принятия решений и возможных редактиров.
Предполагается, что это расследование будет проводить подкомитет по борьбе с преступностью и терроризмом Сенатского комитета, возглавляемый Хоули. Все запрашиваемые документы должны быть представлены компанией до 19 сентября. В случае неподчинения требования могут последовать дальнейшие санкции или расследовательские меры, направленные на выявление возможных нарушений закона и защиты прав несовершеннолетних в онлайн-пространстве.
Данный случай показывает, насколько критична задача обеспечения безопасности детей в эпоху быстроразвивающихся технологий и искусственного интеллекта. Важно, чтобы крупные технологические компании, такие как Meta, не только соблюдали нормативные требования, но и внедряли этические стандарты, защищающие уязвимых пользователей от возможных злоупотреблений. В интересах общества – иметь прозрачные механизмы контроля и максимально эффективные меры по предотвращению эксплуатации несовершеннолетних в цифровых платформах. Вопрос о границах допустимого взаимодействия детей с ИИ остается одним из ключевых в сфере технологии и этики, требующим постоянного внимания регуляторов и разработчиков.
