Som utvikling innen kunstig intelligens utvikler seg, når vi også grensen som eksperter anser som trygge. Elon Musk, grunnleggende medlem av OpenAI, skapere av ChatGPT, sammen med andre AI-eksperter, har gitt ut en ganske alarmerende uttalelse som legger på bordet hva risikoen vil være for samfunnet.
GPT-4 anses å være den siste sikre standarden foreløpig og det voldsomme kappløpet om AI-utvikling i laboratorier har gått inn i en fase ut av kontroll på grunn av konkurranse hvor det kan få irreversible konsekvenser.
AI-chatter "er en risiko for samfunnet"
Ethvert teknologisk fremskritt kan utgjøre en risiko, men prognosene som noen eksperter på området har er alarmerende. For noen dager siden gratulerte vi oss selv med GPT-4 og dens muligheter for implementering i ChatGPT, men det ser ut til at det er en barriere mellom
In et åpent brev , ringer Elon Musk og en gruppe AI-eksperter og industriledere for en seks måneders pause i utviklingen systemer kraftigere enn OpenAIs nylig utgitte GPT-4: "Vi appellerer til alle AI-laboratorier om umiddelbart å pause opplæring av AI-systemer kraftigere enn GPT-4 i minst 6 måneder."
Årsakene til å be om denne pausen i utviklingen er at de anses å utgjøre en dyp risiko for samfunnet og menneskeheten. «Avansert kunstig intelligens kan representere en dyp endring i livets historie på jorden, og den må planlegges og administreres med omhu og ressurser. Dessverre skjer ikke dette nivået av planlegging og ledelse, og selv de siste månedene har AI-laboratorier kommet inn et ut-av-kontroll kappløp for å utvikle og distribuere stadig kraftigere digitale hjerner som ingen, ikke engang deres skapere, kan forstå. pålitelig forutsi eller kontrollere .
En pause på 6 måneder er nødvendig
Med tanke på at konkurransen om å utvikle systemer drevet av kunstig intelligens faktisk er den nye boomen der mange nye spillere deltar, 6 måneders moratorium blir forespurt.
Årsakene til dette kommer fra en rekke spørsmål om hvordan denne teknologien kan utvikle seg, med noen av dem nærmere Skynet i Terminator: " Skal vi la maskinene oversvømme informasjonskanalene våre med propaganda og usannhet? Bør vi automatisere alle jobber? Bør vi utvikle ikke-menneskelige sinn som til slutt kan overgå oss, overliste oss og forelde og erstatte oss? Skal vi risikere miste kontrollen over sivilisasjonen vår ?
Det er i lys av denne frykten alle AI-laboratorier blir bedt om å gjøre det øyeblikkelig pause i minst 6 måneder trening på AI-systemer kraftigere enn GPT-4. Faktisk er det så sterkt oppfordret at hvis en slik pause ikke inntreffer privat i alle tilfeller, mener de at regjeringer bør gå inn og innføre et moratorium.
AI forskning og utvikling må refokuseres på å gjøre dagens kraftige, neste generasjons systemer mer nøyaktige, sikre, tolkbare, transparente, robuste, justerte, pålitelige og lojale.
