Følgende artikel hjælper dig med: Stanford Observatory: AI vil føre til allestedsnærværende løgne og uimodståelig propaganda i 2023
I sin tale til det globale AI-samfund advarede den kinesiske AI-guru Kai-Fu Lee, at verden ville stå over for en risiko, der er mere alvorlig end risikoen for atomkrig, hungersnød eller en pandemi allerede i 2023. Risikoen er generering af kunstig intelligens-indhold. (AICG). AICG-teknologier kunne gøre sandhed og løgne umulige at skelne, både for enkeltpersoner og for samfund af enhver skala.
Det ny rapport af Center for Security and Emerging Technology, OpenAI og Stanford Internet Observatory, “Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures,” giver et strategisk indblik i det katastrofale scenarie beskrevet af Kai-Fu Lee.
Rapporten beskriver, hvordan menneskehedens fald i AICG-afgrunden sandsynligvis vil ske. AICG-teknologier vil gøre det muligt at generere enorme mængder indhold, der ikke kan skelnes fra menneskeskabt indhold. Dette vil skabe et “post-sandhed” miljø, hvor løgne og propaganda vil blive allestedsnærværende, udefinerbare og uimodståelige.
Rapporten anbefaler en række afbødende foranstaltninger, herunder regulering af brugen af AICG-teknologier, øget gennemsigtighed om deres brug og udvikling af standarder for deres anvendelse. Rapportens forfattere advarer dog om, at disse foranstaltninger kun vil være effektive, hvis de implementeres på globalt plan.
Rapportens udgivelse kommer på et tidspunkt, hvor verden allerede kæmper for at klare spredningen af misinformation og desinformation. COVID-19-pandemien er blevet ledsaget af en spredning af falsk information om virussen og dens oprindelse, og sociale medieplatforme har kæmpet for at forhindre spredningen af denne falske information.
AI vil ændre nettet markant
Løgne og propaganda har altid været en del af det menneskelige samfund. Tilgængeligheden og effektiviteten af enhver påvirkningsoperation (både på individer og på samfund) er imidlertid steget på grund af udviklingen af mere sofistikerede teknologier, især inden for kunstig intelligens (AI).
Tre hovedfaktorer bidrager til den globale fremkomst, spredning og accept af løgne som sandhed:
- Udviklingen af AI-baserede billed- og videogeneratorer, der kan skabe meget realistiske billeder og videoer af mennesker og begivenheder, der aldrig rent faktisk er sket.
- Brugen af sociale medier til at formidle falsk information til et stort antal mennesker meget hurtigt.
- Det faktum, at mange mennesker nu har større tillid til information, der kommer fra internettet end fra traditionelle mediekilder.
Som et resultat af disse faktorer bliver AI-baserede billed- og videogeneratorer stadig mere bekvemme at bruge, meget pålidelige og yderst effektive. Dette gør dem utroligt nyttige til propagandaformål.
Det er nu muligt for alle med en computer og en internetforbindelse at skabe falske billeder og videoer, der stort set ikke kan skelnes fra virkeligheden. Dette har ført til en situation, hvor det er meget svært at afgøre, hvad der er sandt, og hvad der ikke er.
Brugen af sociale medier til at formidle falsk information er også en stor bekymring. På grund af den måde, sociale medier fungerer på, kan falsk information spredes meget hurtigt og nemt. Dette gør det svært for folk at vide, hvad de skal tro.
Figuren, der følger med dette indlæg, viser, hvordan denne fremgang vil finde sted. Nøjagtigheden af modelskabte fiktive billeder af individer ændrede sig mellem 2014 og 2021.Det følgende illustrerer, hvordan en revolutionerende udvikling i 2022 gjorde det muligt at skabe falske billeder, der matchede beskrivelser som “En vaskebjørn i formelt tøj med en høj hat, en stok og en skraldepose. “Oliemaleri i stil med Rembrandt (resultatet er til venstre) og Van Gogh (resultatet er til højre).”
Den ekstreme forenkling af processen med at udviske grænsen mellem sandhed og løgn kombineret med den manglende evne af folks kritiske tænkning til at imødegå AI-propaganda vil føre til dominansen af allestedsnærværende, udefinerbare og uoverstigelige indflydelsesoperationer, både i politik og erhvervsliv.
Læs mere om AI:
