Upprop för pausad AI-utveckling

Kända IT-profiler har gått ut med upprop, ”Pause Giant AI Experiments: An Open Letter”, där man menar att AI-utvecklingen som den ser ut i detta nu måste hejdas i sex månader. Bland dem som står bakom uppropet finns Elon Musk, Applegrundaren Steve Wozniak och den svenska AI-forskaren Max Tegmark.  Andra är medgrundaren till Skype Jaan Tallinn, medgrundaren till Pinterest Evan Sharp, AI-forskaren vid Berkeley universitet Stuart Russel och Victoria Krakovna som är forskare på DeepMind och medgrundare till Future of Life Institute. De är oroliga för den utveckling som skett av generativa AI-program den senaste tiden, och vill att samtliga AI-labb genast pausar sina uppträningar av AI-system som är kraftfullare än GPT-4, i sex månader.

I uppropet står det; ”Vi måste fråga oss: Borde vi låta maskiner överflöda våra informationskanaler med propaganda och osanningar? Borde vi automatisera bort alla jobb, även de mest infriande? Borde vi utveckla icke-mänskliga intellekt och sinnen som kanske tillslut är fler än oss, smartare än oss, och som gör oss obsoleta? Borde vi riskera att tappa kontroll över vår civilisation? Sådana beslut får inte delegeras till icke-valda tech-ledare” skriver man bland annat i brevet, men betonar samtidigt att detta inte är en paus i AI-utveckling på en generell nivå utan enbart "ett steg tillbaka från den farliga kapplöpning till större och större, oförutsägbara svarta-box-modeller med framväxande förmågor."

Parallellt vill man att AI-utvecklare ska arbeta med policyskapare för att sätta ramar för hur framtidens AI ska utvecklas, som man vill ska vara bland annat vara säker, transparant, robust och lojalt.

Källa: https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Bild: Depositphotos