xAI, підприємство з штучного інтелекту Елона Маска, запровадило нові обмеження на платформі чат-бота Grok. Цей крок спрямований на можливості редагування зображень — прямий відповідь на те, що інструмент генерував сексуалізовані зображення, що викликало занепокоєння у регуляторів по всьому світу.

Компанія підтвердила, що посилює контроль над усіма обліковими записами користувачів, щоб запобігти зловживанням функціями маніпуляції зображеннями. Ця зміна політики відображає зростаючу увагу до контенту, створеного штучним інтелектом, і до того, як платформи обробляють потенційно шкідливі результати.

Це яскравий приклад того, як проекти з штучним інтелектом адаптують свої протоколи безпеки під тиском регуляторів. Чи то через фільтрацію контенту, обмеження функцій або контроль користувачів, великі платформи штучного інтелекту все частіше змушені балансувати між інноваціями та відповідальністю. Посилення контролю свідчить про те, що питання управління синтетичними медіа не зменшуються найближчим часом.