Følgende artikel hjælper dig med: OpenAI CEO Sam Altman adresserer åbent brev om AI Advancement Pause og bekræfter ingen aktuelle planer for GPT-5-udvikling
OpenAI CEO Sam Altman har udtalt om det nyligt offentliggjorte åbne brev, der opfordrer til en pause i AI-teknologiens fremskridt. Altman adresserede brevet under en tale på MIT og delte sine meninger om sagen. Altman bekræftede, at OpenAI i øjeblikket ikke træner GPT-5, som menes at være efterfølgeren til GPT-4 AI-sprogmodellen.
I sidste måned underskrev tusindvis af førende teknologieksperter, herunder Elon Musk og Steve Wozniak, et åbent brev, der opfordrede til en pause på seks måneder med at træne AI-systemer, der er mere avancerede end GPT-4. Brevet fremhæver den voksende bekymring over kapløbet om at udvikle stadig mere kraftfuld kunstig intelligens og de risici, dette udgør for samfundet. Mens moderne kunstig intelligens-systemer som GPT-4 allerede kan konkurrere med mennesker om generelle opgaver, advarer brevet om potentielle informationsforstyrrelser, jobautomatisering og risikoen for at miste kontrollen over den menneskelige civilisation.
Altman var enig i visse aspekter af det åbne brev, specifikt med hensyn til behovet for at øge sikkerhedskapaciteterne i AI-udvikling. Han oplyste, at OpenAI havde truffet omfattende sikkerhedsforanstaltninger ved træning af GPT-4, herunder eksterne audits og sikkerhedstjek.
Han var dog uenig i den foreslåede monetære pause i AI-udvikling og bemærkede manglen på teknisk specificitet i brevet. Altman afviste også påstanden om, at OpenAI trænede GPT-5, og understregede vigtigheden af nøjagtig evaluering og overvågning af AI-sikkerhed.
“Vi laver andre ting oven i GPT-4, som jeg tror har alle mulige sikkerhedsproblemer, som er vigtige at tage fat på, og som blev fuldstændig udeladt af brevet,”
sagde Altman.
Han forklarede yderligere, at OpenAI’s mål er at tilskynde til globalt engagement med AI, hvilket får enkeltpersoner og institutioner til at opdatere eller tilpasse eksisterende systemer for at skabe den ønskede fremtid.
OpenAI har for nylig opdateret sin tilgang til AI-sikkerhed. Virksomheden har forpligtet sig til at udføre grundige tests, søge ekstern ekspertfeedback og samarbejde med regeringer om at udvikle effektive regler. Derudover træffer OpenAI foranstaltninger til at beskytte den enkeltes privatliv ved at fjerne personlige oplysninger fra træningsdata, afvise anmodninger om personlige oplysninger og slette personlige oplysninger fra sine systemer. Virksomheden har også flyttet sit fokus til at beskytte børn ved at planlægge at implementere muligheder for aldersbekræftelse.
Læs mere:
