Tidligere Google CEO advarer om, at mennesker vil forelske sig i AI’er. Og det er en berettiget bekymring, da en god del af dem allerede har gjort det.

“Forestil dig en verden, hvor du har en AI-lærer, der øger uddannelsesevnen for alle på ethvert sprog globalt,” Disse teknologier, der generelt er kendt som store sprogmodeller, vil i fremtiden kunne gøre dette, fortæller tidligere CEO, Eric Schmidt i et interview med ABC. Vi står over for ekstraordinære nye udfordringer fra disse teknologier, for hvad sker der, hvis folk forelsker sig i deres AI-lærer? spørger Schmidt. 

Det er et særligt aktuelt eksempel, da The Washington Post netop denne uge rapporterede, at OpenAI-teknologi driver en nyudviklet AI-lærer på en privatskole i Silicon Valley. Og mens nogle måske ryster på hovedet over tanken om, at nogle børn faktisk kan udvikle romantiske følelser for deres AI-lærer, er det faktisk ikke så fjern en tanke.

Digital romantik

Internettet er ofte et sted, hvor både børn og voksne – især dem, der føler sig marginaliserede på en eller anden måde – går til for at finde fællesskab, venskab og nogle gange endda digital romantik. Det er derfor mere end muligt at forestille sig, at chatbots, der efterligner mennesker og er designet til at tilbyde hjælp og omsorg til brugere, kan udfylde sådan et tomrum.

Jo bedre bots bliver til at lyde og handle som mennesker, jo mere udviskes  grænser – ikke nødvendigvis på grund af maskinmanipulation, men på grund af den menneskelige længsel efter forbindelse. Tag f.eks. chatbots som “AI-kæresten” Replika, der er designet til at udfylde rollen som en nær følgesvend. Replikas succes – virksomheden hævder at have to millioner brugere – viser, at mennesker er i stand til at udvikle stærke følelsesmæssige bånd til samtalebots, der er designet til at lyde som rigtige mennesker.

Omfattende konsekvenser   

Schmidt bruger det potente eksempel med sociale medier til at illustrere, hvor omfattende og i mange tilfælde skadelige disse utilsigtede konsekvenser kan være.

“Hvad der skete med sociale medier var, at vi, herunder mig selv, blot tilbød sociale medier, fordi vi havde en simpel model for, hvordan mennesker ville bruge sociale medier,” fortalte Schmidt ABC. “Men se i stedet på, hvordan sociale medier bliver brugt til at blande sig i valg og forårsage skade. Folk er døde på grund af sociale medier.”

Schmidt rejser et vigtigt spørgsmål om de potentielle konsekvenser af at udvikle stærke følelser for AI-teknologi. Selvom det kan være spændende at forestille sig AI-lærere og følgesvende, er det vigtigt at forstå og adressere de etiske, psykologiske og sociale implikationer ved at opbygge sådanne bånd med ikke-menneskelige enheder.

Læs hele artiklen her: https://futurism.com/former-google-ceo-humans-fall-in-love-with-ais