Індонезія та Малайзія обмежили доступ до Grok AI через ризики порнографічного контенту
Регулятори країн Південно-Східної Азії заборонили використання системи штучного інтелекту Grok, розробленої компанією Ілона Маска, через побоювання щодо генерації сексуального контенту.
Обмеження доступу до Grok AI
Міністерство комунікацій і цифрових справ Індонезії оголосило тимчасову заборону на використання Grok AI. Влада пояснила це необхідністю «захистити жінок, дітей і все суспільство від ризику фейкового порнографічного контенту, створеного за допомогою ШІ». Міністерка Меутя Хафід заявила, що уряд розглядає створення сексуальних дипфейків без згоди як серйозне порушення прав людини, людської гідності та національної безпеки.
У неділю регулятор зв’язку Малайзії також повідомив про обмеження доступу до Grok до впровадження ефективних запобіжників. Малайзійська комісія з комунікацій і мультимедіа зазначила, що надсилала приписи компаніям X Corp. та xAI LLC щодо запобігання створенню контенту, який може порушувати національне законодавство, однак отримані відповіді не усунули ключові ризики.
Реакція компанії та інших країн
Рішення Індонезії та Малайзії було ухвалене після того, як компанія xAI обмежила функцію генерації зображень у соціальній мережі X для більшості користувачів. Це сталося після хвилі критики через створення оголених зображень жінок і дітей. Тепер для генерації та редагування зображень потрібна платна підписка.
Втім, регулятори в низці країн, зокрема у Великій Британії, розкритикували такі кроки як недостатні. Окремий застосунок Grok, який працює незалежно від платформи X, досі дозволяє створювати зображення без підписки.
Влада Індії, яка раніше також висловлювала занепокоєння через роботу Grok, отримала від X запевнення у дотриманні місцевого законодавства. За даними Press Trust of India, було заблоковано близько 3 500 одиниць контенту та видалено понад 600 акаунтів.
У відповідь на блокування в Індонезії Grok опублікував повідомлення в соцмережі X з вибаченнями за незручності та заявив, що працює над вирішенням проблеми.
Історичний контекст
Grok AI є системою штучного інтелекту, розробленою компанією xAI Ілона Маска. Вона здатна генерувати текст, зображення та інший контент на запит користувачів. Однак використання Grok для створення фейкового порнографічного матеріалу викликало серйозні занепокоєння серед регуляторів і громадськості.
Рішення Індонезії та Малайзії стати першими країнами, які обмежили доступ до Grok, демонструє їхню готовність реагувати на потенційні загрози, пов’язані з розвитком технологій штучного інтелекту. Це також ставить питання про необхідність ефективного регулювання та нагляду за використанням подібних систем у майбутньому.
