» data-script= »https://static.lefigaro.fr/widget-video/short-ttl/video/index.js » >
Les parents de Sewel, qui avaient simplement remarqué que leur fils « s’isolait et s’éloignait du monde réel », accusent la société Character. AI d’être responsable de la mort de leur fils et a intenté une action en justice.
Une mère de famille originaire de Floride a porté plainte mardi contre la société Charachter.AI qui crée des chatbots en ligne utilisant l’intelligence artificielle, rapporte l’agence. Reuters . Elle l’accuse d’avoir provoqué le suicide de son fils de quatorze ans en février, affirmant qu’il était devenu accro à l’intelligence artificielle. Son fils, Sewell Setzer, aurait été visé par des « des expériences anthropomorphes, hypersexualisées et terriblement réalistes »détaille la plainte.
Elle a déclaré que l’entreprise avait programmé son robot pour « se faisant passer pour une personne réelle, un psychothérapeute agréé et un amant adulte, ce qui a finalement conduit Sewell à ne plus vouloir vivre dehors » du monde créé par le service. « Une dangereuse application de chatbot IA commercialisée auprès des enfants a abusé de mon fils et l’a manipulé pour qu’il se suicide »explique-t-elle dans un communiqué. « Notre famille a été dévastée par cette tragédie, mais je prends la parole pour mettre en garde contre les dangers de la technologie d’IA trompeuse et addictive et pour exiger des comptes de Character.AI, de ses fondateurs et de Google »continue-t-elle.
Sentiments romantiques envers la machine virtuelle
L’adolescent a commencé, selon la plainte de sa mère, à utiliser Character.AI en avril 2023 et est rapidement devenu « sensiblement renfermé, il passait de plus en plus de temps seul dans sa chambre et commençait à souffrir d’une faible estime de soi ». Il était attaché à une représentation virtuelle de « Daenerys »un personnage de la série Game of Thrones, incarné à l’écran par Emilia Clarke. Sewell, peu à peu, quitta son équipe de basket-ball, puis commença à tomber amoureux de « Daenerys » et a plusieurs conversations sexuelles avec elle.
En février dernier, la mère avait confisqué le téléphone de son fils suite à un problème à l’école. Elle trouve un message envoyé par Sewell à l’intelligence artificielle : « Et si je te disais que je peux rentrer à la maison tout de suite ? ». « …S’il te plaît, fais-le, mon doux roi »selon la plainte. Le jeune homme a emprunté l’arme de son beau-père et s’est tiré une balle dans la tête « quelques secondes » plus tard.
« Nous sommes dévastés par la perte tragique d’un de nos utilisateurs et souhaitons exprimer nos plus sincères condoléances à la famille. En tant qu’entreprise, nous prenons très au sérieux la sécurité de nos utilisateurs.a réagi Character.AI dans un communiqué sur les réseaux sociaux, niant toute responsabilité.
