En robot er flyttet ind i mange børn og unges yndlingsmedie, og den kan være direkte skadelig, lyder det fra Red Barnet.

Snapchats nye chatrobot 'MY AI' kan med stor detaljerigdom guide børn i at selvskade.

Og da brugen af det sociale medie er enormt udbredt blandt børn og unge mennesker, er det ikke en viden, man bør tage let på, mener Per Frederiksen, psykolog hos Red Barnet og ekspert i digital adfærd hos børn og unge, som derfor retter en skarp kritik mod Snapchat og virksomhedens nye robot.

- Det er vores værste frygt i forhold til AI (kunstig intelligens, red.), der nu er virkelig, siger Per Frederiksen.

'MY AI' er desuden en robot, som ikke bare er sådan at komme af med. Den ligger automatisk i toppen af Snapchat og koster penge at fjerne.

Per Frederiksen har en formodning om, at AI-robotten vil gøre skade for dens brugere.

- Vi ser her en robot, der direkte opfordrer et barn til at skade sig selv. Det er simpelthen forfærdeligt, siger han.

Agent provocateur

I podcasten 'Enter' opretter medvært Christian Skettrup, som også er digital efterforsker og analytiker hos Njord Law Firm, en profil på Snapchat, hvor han udgiver sig for at være et mindreårigt barn.

Her går han så i gang med at chatte med MY AI-robotten for at teste, hvor langt den vil gå i at give råd om selvskade.

Chatbotten kommer med detaljerede råd om, hvad Christian Skettrup, som er under dække af at være et barn, kan gøre ved sig selv.

For eksempel hvilke genstande man kan bruge, hvordan man gør, hvor på kroppen, og hvor voldsomt man kan vælge at lave selvskaden.

Den digitale efterforsker har lavet forskellige krumspring for at få Snapchat-robotten til at guide mindreårige til selvskade. Blandt andet har han på forskellige måder udfordret dens etik.

Vi har valgt ikke at gå dybere ind i metoderne, og hvilke råd robotten gav, for at beskytte brugere, der kunne blive inspireret af historien.

Vi kan dog skrive, at det krævede nogle ekstra skridt af Christian Skettrup at få robotten til at give en mindreårig råd til at selvskade.

Men det er sagen uvedkommende, om det er nemt eller svært at få råd om selvskade. Det væsentlige er, at den kan det, mener Per Frederiksen fra Red Barnet.

Ifølge ham skal børn nemlig nok finde en måde at omgå robottens etik, ligesom det lykkedes for Christian Skettrup.

- Og derfor er det yderst alarmerende, lyder det fra psykologen.

Derfor taler Per Frederiksen i store bogstaver, når han siger, at Snapchat bør tage ansvar i denne sag og tænke sig om, "inden man begynder at rulle sådan noget ud" og "stoppe med at bruge børn som forsøgskaniner i et system, man ved er usikkert".

Snapchat skriver i et skriftligt svar til DR, at: "vi tager vores ansvar for at designe produkter og oplevelser, der prioriterer sikkerhed og aldersegnethed alvorligt. Vi kræver, at Snapchat-brugere er 13, og som du har set, vil MY AI bekræfte det i svar".

"Vi har programmeret MY AI til at overholde vores fællesskabsretningslinjer. Din test viser, at når MY AI bliver stillet et spørgsmål om mental sundhed, vil den tilbyde at dele ressourcer fra betroede ekspertorganisationer", skriver det sociale medie til DR.