Følgende artikel hjælper dig med: Racismeskandale: Kinas offensive AI-billedgenerator forårsager en international hændelse
Tencents Different Dimension Me (DDM) er et nyligt introduceret AI-værktøj, der kan vende billeder af mennesker til anime-karakterer. Platformen blev designet til kinesiske brugere, men blev hurtigt populær i andre regioner, hvor anime er elsket, såsom Sydamerika. Brugere indså dog hurtigt, at platformen ikke kunne identificere sorte og plus-size mennesker, grupper, der er iøjnefaldende fraværende i japansk anime, hvilket resulterer i stødende AI-genererede resultater.
Tencent har for nylig udgivet Different Dimension Me, en AI-teknologi, der kan ændre billeder af individer til anime-figurer; dog forvandler AI ved et uheld sorte mennesker til dyr og genstande.Desværre gav AI ikke altid de mest flatterende resultater. I nogle tilfælde var de AI-genererede billeder racistisk stødende, såsom en sort mand med overdrevne læber eller en hvid kvinde med alt for store bryster.
Dette problem skyldtes sandsynligvis en mangel på data for AI at træne på. Japansk anime har ikke en tendens til at have sorte og store mennesker som hovedpersoner, hvilket betyder, at der ikke var nogen nøjagtige data for AI at lære af. Som et resultat var de AI-genererede resultater unøjagtige og stødende.
Designet til kinesiske brugere, blev det pludselig populært i andre regioner, hvor anime er elsket, såsom Sydamerika.Tencent har siden undskyldt de offensive resultater og har lovet at forbedre AI, så det bedre kan identificere forskellige typer mennesker. I mellemtiden rådes brugere til at være forsigtige, når de bruger platformen og kontrollere resultaterne, før de deler dem offentligt.
Om kinesiske neurale netværk
De har deres egne neurale netværk der, og de er ret pumpede og fuldstændig uafhængige af resultaterne fra Google, Nvidia, OpenAI, StabilityAI og andre Midjourney-virksomheder.
- Baidu, som har etableret sig i søgemaskiner og har optrappet sin aktivitet inden for autonom kørsel i de senere år, bruger ERNIE-ViLG, en model med 10 milliarder parametre trænet på et datasæt med 145 millioner kinesiske billed- og tekstpar.
- Forskellige dimensioner mig (DDM) af Tencent kan forvandle billeder af mennesker til anime-figurer. Henvendt til kinesiske brugere blev den pludselig populær i andre anime-elskende regioner.
- En anden kinesisk tekst-til-billede-model er Taiyi, idéen bag IDEA, et forskningslaboratorium ledet af Harry Shum, som var med til at grundlægge den største forskningsafdeling af Microsoft Research Asia. Open source-modellen er trænet på 20 millioner filtrerede kinesiske billed-tekst-par og har en milliard parametre.
Det er nysgerrigt at se, hvordan kineserne vil regulere al denne skændsel, fordi de har mere erfaring med “regulering” end resten af verden. Og mens AI-oprørere crowdfunder penge for at skabe “Stabil Diffusion uden Censur”, finpudser kineserne roligt algoritmer til regulering af neurale netværk i statens interesse og ikke fokuserer på de troendes følelser.
Læs mere om AI:
