Følgende artikel hjælper dig med: Mængden af intelligens i universet vil fordobles hver 18. måned, siger Sam Altman
AI-apokalypsen er begyndt og ændrer betydningen af Moores lov. Nu vil mængden af intelligens i universet fordobles hver 18. måned, iflg Sam Altman, CEO for OpenAI, virksomheden bag ChatGPT. For bare syv år siden jokede Sam: “AI vil højst sandsynligt føre til verdens ende, men før det vil der være en enorm forretning.” Nu joker folk han skiller sig ikke af med en “nuklear rygsæk”, så han kan fjerndetonere datacentre, hvis GPT kommer ud af kontrol.
Det betyder, at teknologiens muligheder vil fortsætte med at udvide sig hurtigt, hvilket fører til en verden i konstant udvikling.For bedre at forstå, hvad Altman refererer til i sit tweet, og for at finde ud af, hvordan man ikke bliver skør under AI-boomet, anbefaler vi at læse Eric Hoels “Sådan navigerer du i AI-apokalypsen som en fornuftig person.” Hoel er en amerikansk neurovidenskabsmand og filosof ved Tufts University. Det er god læsning, da Hoel er en fantastisk forfatter, så vi anbefaler bestemt at tjekke dette indlæg ud.
Lad os lige se på et af nøglepunkterne, da det opsummerer en dyb forståelse af, hvad der sker, og den nære fremtid for apokalypsen, der allerede er kommet. Hovedargumentet for “rationelle teknooptimister”, som mener, at der ikke skete noget ekstraordinært og alt for risikabelt med fremkomsten af ChatGPT, er som følger:
- På trods af de fremragende resultater af generativ samtale-AI (som ChatGPT, Bing osv.), kan disse AI-systemer ikke betragtes som intelligente. De forstår ikke verden og har ikke en agents motivation. De har ikke en personlighed, der manifesterer sig i deres hensigter og handlinger, og deres opfattede intellekt er intet andet end en simulacrum af intellekt. I sin kerne er dette simulacrum blot en auto-filler for de næste ord, og afspejler i sit sandsynlige spejl det kolossale, ufiltrerede korpus af menneskeskrevne tekster fra internettet.
- Hvis det er tilfældet, så er der hverken en nær udsigt til udseendet af en superintelligens eller de risici, der er forbundet med den (selvom du selvfølgelig skal forberede dig på dette, højst sandsynligt i årtiers horisont).
Det er rigtigt, at ChatGPT ikke har en følelse af bevidsthed, men det er stadig i stand til at træffe beslutninger og foretage handlinger, der kan ses som intelligente. Det betyder, at den kan fungere som en agent, selvom den ikke er bevidst.Hoels svar på denne argumentation er som følger:
- Det faktum, at ChatGPT, for eksempel, blot er en autofuldførelse af de næste ord, betyder ikke, at den ikke kan blive (eller allerede er blevet) en intelligent agent. I modsætning til bevidsthed er intelligens et fuldt funktionelt begreb: Hvis noget handler intelligent, er det intelligent. Hvis den fungerer som en agent, er den en agent.
- Her er et forklarende eksempel. Der er en indflydelsesrig kohorte af videnskabsmænd – Carl Friston (den mest citerede neurovidenskabsmand) og en lang række andre berømte navne – som hævder, at formålet med vores hjerne er at minimere overraskelse. Denne “bayesianske hjernehypotese” er en af de almindelige i dag. Teorien siger, at minimering af overraskelse på globalt plan er hjernens primære funktion. Og selvom dette blot er en af flere ledende hypoteser om, hvordan hjernen fungerer, så lad os antage, at det er sandt. Forestil dig nu, at aliens finder en menneskelig hjerne, ser på den og siger: “Åh, denne ting minimerer bare overraskelse! Det kan ikke være grundlaget for intellektet og kan derfor ikke være farligt for de sande bærere af sindet. Tænk: Er “minimering af overraskelser” virkelig et meget sværere mål end automatisk udfyldelse af tekst? Eller er det faktisk meget ens?
- Og hvis ja, så er den ikke-menneskelige superintelligens måske allerede i nærheden. Og de dermed forbundne risici er allerede ret reelle. Hvad er der ellers at tilføje? Måske er ChatGPT og andre allerede mere alsidige i deres intelligens end noget menneske. ChatGPT og andre vil sandsynligvis være aktive på samme tid af følgende årsager: rimelig, upålidelig og ikke lig det menneskelige sind, ukontrollerbar i nogen grundlæggende forstand, bortset fra nogle hastigt designede hegn.
Og hvis alt dette er sandt, så er AI-apokalypsen allerede begyndt.
Læs flere relaterede emner:
