En amerikansk domstol tvingade just Meta att använda AI

Ja, du läste rätt. En domstol i New Mexico har beordrat Meta att försöka ta fram en dedikerad “under 13 års ålder” AI model (på engelska “prediction model”) för att avgöra om barn är under 13 år. De har två år på sig.

Bakgrunden är att förhindra att barn utnyttjas sexuellt och att skydda dem från skadliga psykologiska hälsoeffekter. Domstolen är mycket skarp i sin formulering och stämplar Facebook och Instagram som allmänfarlig verksamhet! (“public nuisance”)

Domen innebär också att företaget skall betala över en halv miljard dollar, eller i svenska pengar mer än 5 miljarder kronor till en fond tänkt att hjälpa till med rehabilitering av de som drabbas av negativa effekter på sin mentala hälsa på grund av Metas produkter. En sån fond kallas “abatement fund” och har i tidigare mål tilldömts andra verksamheter som ansetts allmänfarliga (till exempel skandalen kring opioidläkemedel) och använts tillsammans med en åtgärdsplan.

Domslutet är andra delen av en rättegång där Meta fällts för att ha skadat barns mentala hälsa trots att företaget varit medveten om tjänsternas (Facebook, Instagram) skadliga konsekvenser för barnen.

I den tidigare fasen dömdes de till böter på 375 miljoner dollar, så totalt alltså en kostnad på nästan 9 miljarder kronor.

Allt det här är verkligen uppseendeväckande, och tycker jag, mycket bra, men det som verkligen är sensationellt är att en domstol faktiskt beordrar Meta att använda en viss teknik (AI). Det är märkligt och gränsar till magiskt tänkande. Det bryter också emot hur det brukar funka i en rättsstat. Domstolar dömer om skyldigheter och utfall (lös problemet) och brukar inte lägga sig i teknikval.

Det är problematiskt på flera sätt, t.ex. om det finns enklare sätt att åstadkomma effekten, eller om just den teknik domstolen föreslår visar sig vara utdaterad om ett par år.

Intressant är det hursomhelst. Meta tänker överklaga.