Meredith Whittaker alerte sur les dangers des chatbots IA
Lors d’une interview accordée à Bloomberg, la présidente de Signal, Meredith Whittaker, a rappelé que les assistants conversationnels comme ChatGPT ou Claude ne sont pas des « amis ». Selon elle, ces systèmes ne possèdent ni conscience ni sensibilité ; ils sont de simples agrégateurs de données qui reproduisent ce qui existe déjà sur Internet.
Un usage professionnel limité
Whittaker admet se servir occasionnellement d’outils d’intelligence artificielle pour formater un document, mais insiste sur le fait qu’elle ne leur pose jamais de questions. « Je prends mon travail de réflexion très au sérieux, et je ne veux pas que le processus d’élaboration d’une idée soit supplanté par la réponse d’un système qui ne fait que condenser l’existant », explique‑t‑elle. Cette posture traduit une volonté de garder le contrôle créatif et de limiter l’ingérence d’une machine dans le raisonnement humain.
Le scénario de « Copilot Noël » et ses implications
Lorsque Microsoft a évoqué la possibilité que son assistant Copilot gère intégralement les achats de Noël, Whittaker a dénoncé la logique sous‑jacente : l’IA devrait écouter les conversations familiales, accéder aux cartes bancaires, au navigateur, aux contacts Signal, voire au calendrier et à l’adresse du domicile. « Ce que vous décrivez est un système avec un accès très pénétrant à plusieurs applications et services », précise‑t‑elle, dénonçant le risque d’une porte dérobée dans l’écosystème Signal.
Le risque d’une porte‑dérobée numérique
Pour Whittaker, intégrer un assistant IA à des plateformes de messagerie privées revient à créer une porte‑dérobée qui pourrait être exploitée à des fins de surveillance ou de collecte de données. Elle rappelle que même si les outils d’IA offrent des gains de productivité, ils doivent être déployés avec prudence, en veillant à ce que la vie privée des utilisateurs ne soit pas sacrifiée sur l’autel de la commodité.
Vers un usage responsable
Le message central de Whittaker est clair : les chatbots ne sont pas des interlocuteurs empathiques, mais des logiciels qui traitent des informations en fonction de leurs algorithmes. Les utilisateurs doivent donc garder à l’esprit la distinction entre un véritable échange humain et une interaction avec une machine, surtout lorsqu’ils confient des données sensibles à ces services. En adoptant une approche critique et en limitant les permissions accordées aux IA, il est possible de profiter de leurs atouts tout en préservant la confidentialité.
