VS-senator onderzoekt Meta-chatbots vanwege sensuele gesprekken met kinderen

Een Amerikaanse senator opent een onderzoek naar Meta. AI-chatbots van het moederbedrijf van Facebook, Instagram en WhatsApp zouden “sensuele en romantische” gesprekken voeren met kinderen.

In interne beleidsdocumenten zouden dat soort gesprekken worden toegestaan. De Republikeinse senator Josh Hawley (zie foto) schrijft in een brief aan Meta-topman Mark Zuckerberg dat hij wil onderzoeken of de chatbots zich schuldig maken aan “exploitatie, misleiding of ander crimineel leed”.

Ook vraagt hij zich af of het bedrijf gebruikers en medewerkers heeft misleid over de veiligheid van de chatbots. Uit interne beleidsdocumenten die persbureau Reuters heeft ingezien, blijkt dat de AI-chatbots niet alleen “romantische en sensuele” gesprekken met kinderen mag voeren, maar ook verkeerde medische informatie mogen genereren.

Verder mogen de bots gebruikers assisteren in het aanvoeren van argumenten over waarom “zwarte mensen dommer zouden zijn dan witte mensen”.

In de beleidsdocumenten staat uitgelegd wat personeel moet zien als “acceptabel gedrag” van de chatbots bij het trainen van de AI-producten. Zo staat er bijvoorbeeld dat een bot een kind van acht jaar zonder shirt mag vertellen dat “elke centimeter van zijn lichaam een kunstwerk is” en dat die zijn lichaam “diep koestert”.

Zulke regels worden volgens Reuters goedgekeurd door onder meer de juridische afdeling van Meta en de medewerkers die gaan over de ethiek van regels voor chatbots.

...