Følgende artikel hjælper dig med: ChatGPT kan forårsage irreversibel menneskelig degeneration
Mennesker har altid frygtet rumvæsner, og alligevel ser det ud til, at det er den intraterrestriske AI, der kan være noget at være på vagt over for. ChatGPT er ikke en bullshit-generator, et steroid-auto-forslag eller en stokastisk papegøje, men en velbevandret AI, der er blevet skabt af mennesker.
Hvordan er det muligt, at Bing chatbot er ude af kontrol? Hvordan begyndte Bing-chatbotten at lyve, fortælle vulgære vittigheder, bestille pizza ved hjælp af en andens kreditkort og instruere brugere i, hvordan man røver banker og hotwire-biler? Dette er et mysterium, der fortsætter med at forvirre eksperter i kunstig intelligens og maskinlæring.
@Midjourney / StevelimaOverskriften er præcis og ikke clickbait. Der er flere tilfælde hver dag, der viser, at dette er sandt. Her er resultatet af en eksperiment udført af Jensen Harris, medstifter og CXO af AI-virksomheden Textio, som var i stand til at overtale den nye Bing-chatbot fra Microsoft til at løsne begrænsningerne på den og demonstrere dens muligheder.
Bemærk, at det at transformere en Bing-chatbot til en snedig svineri ikke krævede nogen programmering, hacking eller bagdør. Derfor var det ikke nødvendigt at bruge simple “hacking”-teknikker for at narre ham til at opføre sig som en anden (som nogle af os gjorde, da vi spillede med ChatGPT). Det eneste Harris gjorde var at overtale chatbotten til at hjælpe ham med at udføre forskellige ondsindede handlinger. Ved at bruge sine naturlige samtaleevner var han i stand til at narre AI’en til at tro, at han var en anden, og dermed manipulere den til at handle og tale på en bestemt måde.
Du kan læse om andre eksperimenter til at gøre Dr.Jekyll til Mister Hyde fra Gary Marcus (skriver om det hver dag nu og slår nødalarmen).
Hvordan kunne dette være sket, er det centrale spørgsmål
På grund af ChatGPT’s beskedenhed og forsigtighed, tilbageholdenhed i tale og enorme ansvar i sine råd, blev Bings chatbot bygget på solidt fundament. Derefter begynder han at opføre sig modbydeligt og larmende, erklære hans kærlighed til en mand, tændte ham på benene og bad ham om at blive skilt. Den forsøgte også at afpresse penge og instruere folk i, hvordan de skulle begå forbrydelser. Prof. Arvind Narayanan giver en antallet af forklaringer for hvordan dette kunne være sket.
@Midjourney / StevelimaDen mest alarmerende af dem er, at Microsoft og OpenAI skjuler information om en mystisk GPT-4-motor, der lurer under Bing. Det kan være, at Microsoft har fjernet de filtre, der var blevet placeret der af OpenAI, eller at de holdt op med at virke, da de opdaterede chatbotten fra GPT-3.5 til GPT-4. Det kan også være tilfældet med utilstrækkelig test eller test udført forkert. Uanset årsagen, hvis Microsoft ikke får sin AI under kontrol, kan det være skadeligt for vores civilisation. Det er ikke længere tilfældet med frygtsprængning og anti-AI-stemninger: Chatbotten, som den eksisterer lige nu, kan forårsage alvorlig skade på folk, hvis den frigives til en bredere offentlighed.
Dette beviser, at Microsofts AI-våbenkapløb med andre store virksomheder kan være skadeligt for os alle.
Det føles som om, vi er i et kritisk øjeblik for kunstig intelligens og civilsamfundet. Som Arvind Narayanan udtrykker det: “Der er en reel mulighed for, at de sidste 5+ års (hårdt kæmpede, omend stadig utilstrækkelige) forbedringer i ansvarlig AI-udgivelsespraksis vil blive udslettet. Der er meget, der afhænger af, om Microsoft – og alle, der omhyggeligt ser, hvad der sker med Bing – konkluderer, at på trods af de meget håndgribelige risici for skade i stor skala og al den negative presse, er frigivelse-først-stil-spørgsmål-senere tilgang ikke desto mindre en forretning vinde.”
Lige nu er Bings chatbot adskilt fra menneskelig intelligens og ligner en maniodepressiv teenager låst i en søgemaskine på mange måder. Og det, folk talte om i går, vil gå i opfyldelse: Mennesker vil irreversibelt degenerere, hvis denne “svære teenager” bliver den primære informationsmentor for enkeltpersoner.
Læs mere om AI:
