Hvordan ser fremtidens AGI-systemer ud ifølge manden bag OpenAI og den succesfulde sprogmodel ChatGPT, Sam Altman? 

I en artikel på OpenAIs hjemmeside, diskuterer han deres mission om at sikre, at kunstig generel intelligens (AGI) – AI-systemer, der er generelt klogere end mennesker – gavner hele menneskeheden. 

Ifølge Altman kan teknologien nemlig hjælpe med at forbedre menneskeheden ved at mindske overflod, forbedre den globale økonomi og bidrage til opdagelsen af ny videnskabelig viden. Vi skal forestille os en verden, hvor vi alle har adgang til hjælp til næsten enhver kognitiv opgave og hvor mulighederne for menneskelig opfindsomhed og kreativitet er uendelige. 

Risiko for misbrug

Altman peger dog også AGI’s potentielle negative konsekvenser. For AGI kommer med alvorlig risiko for misbrug, drastiske ulykker og samfundsmæssig forstyrrelser. Men fordi fordelene ved AGI er så store, mener folkene bag OpenAI ikke, at det er muligt eller ønskeligt for samfundet at stoppe udviklingen for evigt; i stedet skal samfundet og udviklerne af AGI finde ud af, hvordan man gør det rigtigt.

I den sammenhæng fremhæver Altman vigtigheden i gradvist at implementere stadig mere kraftfulde AI-systemer og få erfaring med at betjene dem i den virkelige verden. Han mener, at dette er den bedste måde at styre AGI’s eksistens på. En gradvis overgang giver tid til at folk, politikere og institutioner kan forstå, hvad der sker, opleve fordelene og ulemperne, tilpasse vores økonomi og implementere regulering.

Altman og OpenAI understreger altså behovet for at tage forholdsregler og arbejde med sikkerhed og evner samtidigt, og de erkender, at det ikke er hensigtsmæssigt at tale om dem separat, da de er forbundet på mange måder. 

Offentlig indsigt og træning 

OpenAI mener også, at uafhængige revisioner bør foretages, inden nye systemer frigives, og at offentlige standarder for vurdering af træningsforløb, sikkerhedsvurderinger og anvendelse af modeller bør etableres. De mener, at de store verdensregeringer bør have indsigt i træningsforløb over en vis skala.

Fremtiden for menneskeheden bør bestemmes af menneskeheden, lyder ordene fra Altman, som understreger, at det er vigtigt, at dele oplysninger om fremskridt med offentligheden. Der bør være stor kritisk gennemgang af alle bestræbelser på at opbygge AGI samt offentlig konsultation vedrørende væsentlige beslutninger.

Sam Altman og OpenAI forestiller sig en verden, hvor menneskeheden blomstrer på en måde, der sandsynligvis er umulig for os at fatte fuldt ud. De håber, at bidrage til en AGI, der er i overensstemmelse med en sådan blomstring. Altman erkender, at fremskridtene med AGI-systemer sandsynligvis vil fortsætte hastigt derfra. Hvis dette er tilfældet, kan verden blive ekstremt anderledes end i dag, og risiciene være ekstraordinære. 

Læs mere her, https://openai.com/blog/planning-for-agi-and-beyond