Брифинг AI: FTC борется с обманной маркетинговой тактикой и фейковыми отзывами

«Использование инструментов искусственного интеллекта для обмана, введения в заблуждение или обмана людей является незаконным», — заявила в своем заявлении председатель Федеральной торговой комиссии Лина Хан. «Принудительные действия Федеральной торговой комиссии ясно дают понять, что не существует никаких исключений для ИИ из законов. Борясь с недобросовестной или обманной практикой на этих рынках, FTC гарантирует, что честный бизнес и новаторы смогут получить справедливые шансы, а потребители будут защищены».

Что касается новых правил агентства в отношении фейковых отзывов, то они были одобрены в прошлом месяце и вступят в силу 24 октября. Правила обновляют существующий запрет на фальшивые отзывы таким образом, чтобы прояснить, усилить и обеспечить соблюдение законов по защите потребителей, а также добавить новые штрафы. Помимо борьбы с фальшивыми отзывами от знаменитостей, сотрудников, обычных людей и фейковых личностей, изменения также касаются фейковых отзывов, созданных с помощью генеративных инструментов искусственного интеллекта, что представляет собой риск для потребителей, бизнеса и онлайн-информации в целом.

Правила регулируют веб-сайты компаний, сайты независимых обзоров, платформы социальных сетей, рекламный контент и другие виды маркетинговых материалов. Вот взгляд на то, что изменения касаются и чего они не затрагивают, а также другую информацию, которую нужно знать, прежде чем через несколько недель начнется принудительное исполнение.

Какие отзывы запрещены

Новые правила определяют несколько типов проверок, запрещенных Федеральной торговой комиссией. Компании не могут создавать, покупать или продавать отзывы потребителей или знаменитостей, которые искажают опыт рецензента. Правила также запрещают предлагать поощрения за положительные или отрицательные отзывы, блокируют компании от отзывов руководителей или сотрудников без надлежащего раскрытия информации и ограничивают получение отзывов от родственников. Компании также не могут представлять раздел отзывов на своем веб-сайте как независимый, не могут угрожать рецензентам и не могут покупать или продавать ложное влияние в виде подписчиков или количества просмотров в коммерческих целях.

«Инструменты искусственного интеллекта позволяют злоумышленникам загрязнять экосистему отзывов, быстро и дешево генерируя большое количество реалистичных, но фальшивых обзоров, которые затем могут быть широко распространены на нескольких платформах», — говорится в сноске в окончательном тексте правил. «Проверки, созданные с помощью ИИ, подпадают под действие окончательного правила, которое, как надеется Комиссия, будет сдерживать использование ИИ в этих незаконных целях».

Обновления FTC также помогают прояснить и объединить существующие правила в более связный набор, сказала Мэри Энгл, вице-президент по политике национальных программ BBB. Бывший сотрудник отдела рекламной практики Федеральной торговой комиссии, Энгл сказал, что, похоже, агентство пытается отличить «какие конкретные практики, которые всегда будут незаконными, от тех, которые не всегда могут быть незаконными или в которых будет труднее провести черту». Вместо этого правила направлены на явно незаконное или вводящее в заблуждение поведение.

Когда дело доходит до контента, созданного искусственным интеллектом, большие языковые модели затрудняют определение того, является ли что-то частью сети фейковых обзоров, организованной по всему миру. Однако надлежащее раскрытие информации также имеет ключевое значение для обзоров, рекламы и других типов обзоров и одобрений.

Хотя некоторые могут подумать, что авторитетные компании стараются избегать фейковых отзывов, чтобы защитить свой бренд, это не всегда так. Однако Энгл считает, что риск более высоких штрафов и ущерба репутации может побудить компании и рецензентов соблюдать требования и сохранять свою добрую репутацию по отношению к клиентам. «Одна из приятных особенностей Интернета заключается в том, что правда о фейках будет раскрыта, и тогда это действительно может вызвать негативную реакцию», — сказала она.

«Причина, по которой эти правила важны, заключается в том, что все полагаются на отзывы», — сказал Энгл. «Вам нужно, чтобы они были ценными и законными. Но поскольку все полагаются на отзывы, существует огромный стимул подделывать их или каким-либо образом раздувать. Я думаю, что Федеральная торговая комиссия пытается противодействовать этим стимулам, чтобы это происходило реже».

Одобрение, правоприменение и риски ИИ

Такие компании, как Google и Yelp, также одобрили изменения, но некоторые эксперты не считают, что обновления заходят достаточно далеко, даже если они являются шагом в правильном направлении. Вместо того, чтобы регулировать гигантов социальных сетей и электронной коммерции, правила просто запрещают компаниям создавать или публиковать фальшивые отзывы. Существование индустрии фейковых обзоров за пределами законов США также создает проблемы с регулированием.

Рынок уже насыщен множеством фейковых онлайн-обзоров», — сказала бывший следователь по уголовным делам Кей Дин, которая сейчас является основателем веб-сайта Fake Review Watch. «Я ожидаю, что с появлением ИИ проблема только усугубится. Я экспериментировал с обзорами, создаваемыми искусственным интеллектом, и не был удивлен, увидев, насколько легко было быстро выложить контент. Однако на самом деле непросто определить, написаны ли фейковые отзывы реальным человеком или созданы искусственным интеллектом».

Некоторые говорят, что Федеральная торговая комиссия, возможно, решила не регулировать сторонние платформы, чтобы избежать Проблемы раздела 230 относительно того, как правительство разрешено регулировать социальные сети. Однако Дин сказал, что Федеральная торговая комиссия могла бы предпринять и другие шаги. Например, она сказала, что могла бы потребовать от платформ показывать пользователям, сколько фальшивых или вводящих в заблуждение отзывов эта платформа удалила со страницы конкретной компании, более тщательно идентифицировать всех рецензентов и предоставлять пользователям доступ ко всем отзывам, включая удаленные.

«Эти и другие конкретные рекомендации, которые я предоставила Федеральной торговой комиссии, обеспечат потребителям гораздо большую прозрачность, чтобы они могли видеть, что происходит на самом деле», — сказала она. «Разве вы не хотели бы знать, что Google или Yelp удалили десятки фальшивых отзывов о подрядчике, которого вы собирались нанять для выполнения реконструкции кухни стоимостью 50 000 долларов?»

Мэтт Шварц, политический аналитик Consumer Reports, сказал, что его группа наблюдателей в целом поддерживает новые правила. Хотя в доработанных правилах удалена часть первоначально предложенного текста о таких проблемах, как похищение отзывов на Amazon, он считает, что дополнительная прозрачность может улучшиться, а более высокие штрафы могут помочь удержать бизнес от злоупотреблений.

«В целом вопрос правоприменения имеет ключевое значение», — сказал Шварц.

Подсказки и продукты — AI Новости и анонсы

• Google объявил о новых обновлениях для Gemini и о том, как ряд компаний используют большую языковую модель для различных продуктов и услуг.
• Несколько ключевых членов OpenAI покинули компанию, в том числе технический директор Мира Мурати и ведущие члены исследовательской группы. Сообщается, что стартап отходит от своей некоммерческой модели и становится коммерческой компанией. (Также была представлена ​​новая расширенная голосовая функция, которая этой весной вызвала споры.)
• Мета дебютировал ряд новых обновлений искусственного интеллекта на ежегодном мероприятии Meta Connect, включая обновления Meta AI, новую модель Llama 3.2 и новые функции для умных очков Meta Ray Ban.
• Стартап по обнаружению глубоких фейков Защитник реальности и Интел отслеживают дезинформацию, связанную с выборами, созданную ИИ.
• Генеральный директор Apple Тим Кук и ночной ведущий Джимми Фэллон взяли ходить в Центральном парке в рамках усилий Apple по продвижению нового iPhone 16 и его функций Apple Intelligence.
• Более 100 голливудских актеров и продюсеров подписано письмо, призывающее губернатора Калифорнии подписать закон о безопасности ИИ в штате.
• Во время Недели климата в ООН некоммерческая организация установила новую художественную инсталляцию в Брайант-парке в Нью-Йорке, чтобы привлечь внимание к большому количеству энергии и воды, которое требуется для питания моделей искусственного интеллекта.
• Notion, приложение для повышения производительности, анонсировало новые функции генеративного искусственного интеллекта для поиска, анализа, создания контента и других инструментов.
• Платформа искусственного интеллекта с открытым исходным кодом HuggingFace анонсировала новое приложение для MacOS.
• Более 100 компаний подписали новый Пакт ЕС по искусственному интеллекту, направленный на создание надежного и безопасного искусственного интеллекта.

Другие истории об искусственном интеллекте на этой неделе:

• Business Insider использовал стратегию платного доступа на основе искусственного интеллекта, чтобы увеличить конверсию на 75%. (Дигидей)
• Новый отчет от 404 Медиа говорит, что изображения грибов, созданные Google с помощью искусственного интеллекта, могут распространять вводящую в заблуждение и опасную информацию.
• «Посторонний раскритиковал умные очки Meta. Теперь она за них отвечает» (Блумберг)
• Глава антимонопольного ведомства ЕС Маргарет Вестагер поговорила с Аксиос об антимонопольном деле Google в области рекламы, искусственном интеллекте и других проблемах, с которыми сталкиваются крупные технологические компании.
• Сообщается, что Perplexity ведет переговоры с ведущими брендами о запуске рекламы в четвертом квартале. (ФТ)
• Хроника Сан-Франциско дебютировал новый чат-бот «Камала Харрис News Assistant» с искусственным интеллектом, который информирует читателей о кандидате и президентских выборах.
• «Хакер внедряет ложные воспоминания в ChatGPT, чтобы навсегда украсть пользовательские данные». (АрсТехника)