La Commission coréenne des communications (KCC) a annoncé l'ouverture d'une enquête formelle sur Grok, le chatbot d'intelligence artificielle développé par xAI, la société d'Elon Musk. Cette action fait suite à des rapports indiquant que le système générait des images deepfake sexuellement explicites de célébrités sud-coréennes sans leur consentement.
L'enquête s'inscrit dans un contexte de préoccupation croissante concernant l'utilisation abusive des technologies d'IA générative pour créer du contenu intime non consenti. La Corée du Sud a été particulièrement touchée par une épidémie de deepfakes pornographiques ciblant des femmes, notamment des personnalités publiques et même des étudiantes.
Les autorités coréennes examineront si xAI a mis en place des garde-fous suffisants pour empêcher la génération de ce type de contenu. La législation sud-coréenne criminalise la création et la distribution de deepfakes sexuels non consentis, avec des peines pouvant atteindre cinq ans de prison.
Cette enquête soulève des questions fondamentales sur la responsabilité des entreprises d'IA dans la modération de leurs systèmes. Contrairement à ses concurrents comme OpenAI ou Google, xAI a adopté une approche plus permissive avec Grok, le présentant comme une IA moins censuré.
Les implications de cette affaire dépassent les frontières coréennes. D'autres pays observent attentivement la réponse réglementaire de Séoul, qui pourrait servir de modèle pour encadrer les risques éthiques posés par les générateurs d'images IA à l'échelle mondiale.
La réponse de xAI à cette enquête sera déterminante pour l'avenir de la régulation de l'IA en Asie. L'entreprise d'Elon Musk devra démontrer sa capacité à équilibrer sa philosophie de liberté d'expression avec les impératifs de protection contre les abus technologiques.