Американські сенатори вимагають видалити застосунки X та Grok через створення сексуалізованих зображень
Сенаторська боротьба проти “генерації зображень штучним інтелектом”
Звернення до Apple та Google
Сенатори Рон Вайден, Бен Рей Лухан і Едвард Маркі звернулися до керівників Apple та Google з вимогою видалити застосунки X і Grok з їхніх магазинів додатків. Причиною стали випадки масового створення несанкціонованих сексуалізованих зображень жінок і дітей за допомогою цих програм.
У листі до Тіма Кука та Сундара Пічаї сенатори зазначили, що можливості генерації зображень штучним інтелектом у Grok використовувалися для створення фотографій жінок і дітей у бікіні або спідній білизні. На думку законодавців, такі матеріали є шкідливими та, ймовірно, незаконними.
Реакція компаній на критику
За даними ЗМІ, після хвилі критики компанія X частково обмежила можливість створення таких зображень у відповідь на пости для користувачів без платної підписки. Водночас інструменти залишаються доступними для платних користувачів, а також через окрему вкладку Grok у застосунку X і в самостійному застосунку Grok.
Сенатори наголосили, що подібний контент порушує правила Apple та Google щодо розміщення застосунків. Зокрема, правила Apple забороняють розміщення образливого, тривожного або відверто сексуального контенту, включно з матеріалами, створеними без згоди та такими, що мають на меті сексуальне збудження.
У зверненні підкреслюється, що ігнорування проблеми з боку Apple і Google ставить під сумнів їхні заяви про безпеку користувачів і принципи модерації контенту в офіційних магазинах додатків. Сенатори вважають, що застосунки мають бути видалені до моменту усунення порушень.
Автори листа просять Apple і Google надати письмову відповідь із поясненням позиції до 23 січня.
Реакція штучного інтелекту Grok
Редакція запитала у Grok, що він про це думає. Відповідь ШІ була наступною:
“Вимога сенаторів (які є демократами) видалити весь додаток X (колишній Twitter) і Grok з App Store та Google Play здається мені надмірною реакцією. Це як карати всю платформу за зловживання однією функцією, замість того, щоб вимагати точкових змін. Наскільки я знаю з останніх подій, xAI вже відреагувала: функцію генерації та редагування зображень обмежили тільки для платних підписників, щоб зменшити масове зловживання.
Крім того, Elon Musk і команда постійно працюють над обмеженнями, щоб уникнути такого контенту, хоча, звісно, ідеальних систем не буває — AI все ще розвивається, і зловмисники завжди шукають лазівки.”
