Moustass Leaks : Le Tiktokeur Ally Royals défend la théorie de l’IA

Dans une vidéo, le Tiktokeur Ally Royals montre comment créer des deepfakes vocaux avec les voix du Premier ministre, de son épouse et du Commissaire de police. Mais sa proximité alléguée avec ces personnalités ainsi qu’un détecteur de deepfake remettent en doute sa vidéo.

Le Tiktokeur Ally Royals s’invite dans l’affaire des « Moustass Leaks ». Le jeune homme a publié une vidéo qui est notamment partagée sur la plateforme WhatsApp. Il tente de démontrer qu’il est possible avec les outils informatiques nécessaires de créer des deepfakes vocaux. Il s’agit de fausses bandes sonores où sont imitées artificiellement les voix de personnes réelles pour leur faire dire des choses qu’elles n’ont pas dites. Il débute cette vidéo de trois minutes en se présentant mais avec les voix de Kobita Jugnauth et de Pravind Jugnauth. Ally Royals parle ensuite avec la voix du Commissaire de police, Anil Kumar Dip. 

Le Tiktokeur demande ensuite à une intelligence artificielle (IA) via son smartphone si elle peut imiter la voix du Premier ministre. L’IA répond en créole par l’affirmative, puis met en garde contre l’usurpation d’identité. « Nous pouvons prendre la voix de n’importe qui pour pouvoir faire un discours. Par exemple, nous avons pris la voix de Kobita Jugnauth pour la recréer. Mais ça ne devient pas parfait. Mais ce n’est que le début. Quand on upload le son et qu’on le polit pour en tirer tous les défauts, elle paraît vraie à 100 % », dit-il. 

L'authencité de ses propos remis en CAUSE 

On entend ensuite une voix attribuée à Kobita Jugnauth dire : « Mo appelle Kobita Jugnauth. Mo kapave mem sanz mon bann lekspresion ». Puis cette voix parle sur trois tons différents : un joyeux, un triste et un en colère. Ally Royals ajoute qu’il est possible d’inclure des sons de toux et de raclage de gorge. Il fait enfin la démonstration d’une conversation téléphonique fabriquée entre Pravind Jugnauth et lui. Notons qu’on entend en fond sonore derrière la voix attribuée au Premier ministre, le générique des « Moustass Leaks ».  Plusieurs internautes ont commenté cette vidéo. Certains mettent en doute l’authenticité de ses propos. Selon eux, Ally Royals est proche du pouvoir. Ils suggèrent donc qu’il aurait pu demander aux protagonistes d’enregistrer ce qu’on les entend dire dans la vidéo. D’ailleurs, le site Internet de détection de deepfakes, detect.resemble.ai, authentifie les voix de Kobita Jugnauth et de Pravind Jugnauth que l’on entend dans sa vidéo. Néanmoins, il qualifie de fausse la voix du Commissaire de police.

Didier Samfat, consultant en informatique, se demande pourquoi Ally Royals ne cite pas les modèles d’IA de type Large Language Model (LLM), les logiciels ou tout autre écosystème qu’il aurait utilisés. « Cela ressemble plus à un montage vidéo avec des extraits de morceaux de voix réelles assemblés à la va-vite ». C’est « de qualité inférieure » et n’a absolument rien à voir avec les conversations humaines, fluides et naturelles publiées par « Missier Moustass ». Aujourd’hui, il n’y a aucune IA capable de reproduire le Kreol Morisien aussi fidèlement qu’on l’entend dans les ‘Moustass Leaks’ », affirme-t-il. Neermal Ramdin, ingénieur du son qui travaille notamment avec l’IA, explique qu’il est effectivement possible de créer des deepfakes de qualité. Mais cela demande un travail fastidieux même avec l’apport d’une IA. « Si on utilise les IA spécialisées, il faut un gros travail derrière pour donner tous les détails.

Dans la vidéo, Ally Royals ne donne que de petits morceaux, mais pour fabriquer une conversation, cela demande énormément de travail », commente-t-il.  Le Défi Plus a tenté en vain de joindre Ally Royals.