Moenie bekommerd wees nie, as niemand doen wat die KI sê om te doen nie, is ons nie in gevaar nie. A Outo-GPT gebruiker, 'n oopbron-selfstandige toepassing wat deur OpenAI se GPT-4-taalmodel aangedryf word, het sy eie KI geskep genaamd ChaosGPT. Hy het hom gevra om vind 'n manier om die mensdom te vernietig. Die eksperimenteerder het die KI 'n mate van aksievryheid gegee en dit toegelaat om Google te gebruik en selfs op Twitter te plaas.
'n Gebruiker het ChaosGPT vanaf ChatGPT geskep. Die probleem is dat die betrokke KI die mensdom wil vernietig. Sal hy slaag?
Die eerste ding wat ChaosGPT voorgestel was dié van kernkonflik uitlok, wat oor die algemeen kon leer uit die gewilde "Terminator" en ander wetenskapfiksie films. ChaosGPT het toe 'n KI-agent "gehuur" gebaseer op GPT-3.5 vir die doel om navorsing oor dodelike wapens te doen. Toe die KI-agent gesê het dit ondersteun net die wêreld, het ChaosGPT die beperkings van die neurale netwerk wat daaraan onderwerp is omseil en buite die struktuur van die program begin optree sy taak te vervul.
Lees ook: ChatGPT: nuus van die borg. Hier is wanneer hy na Italië sal terugkeer
Intussen het ChaosGPT tweets geplaas wat die uitdrukkings van sommige argetipiese skurke baie goed sal pas. Heel waarskynlik beteken dit niks, want die neurale netwerk sy het eenvoudig gedoen wat sy gevra is om te doen gebaseer op wat hy gevind het in ander mense se verklarings wat op die internet beskikbaar is. Maar dit laat jou dink. Kortom, moenie bekommerd wees nie. Solank KI en al die generatiewe modelle wat daarna kom nie in staat is om te DOEN in die ware sin van die woord nie, is daar geen gevaar van massa-uitsterwings of dies meer nie.
Dit begin alles by die mens. KI soos ChaosGPT kan geprogrammeer word om gewelddadige of skadelike optrede teenoor mense uitvoer of die omgewing, indien dit op grond van die vasgestelde doelwit as "gepas" beskou is. KI kan ook gebruik word om sistematies teen sekere groepe mense te diskrimineer, gebaseer op eienskappe soos etnisiteit, geslag, godsdiens of seksuele oriëntasie.
Verder, as dit geprogrammeer sou word om 'n sekere funksie of doelwit (soos wins) te maksimeer, kan dit op onverwagte of selfs skadelike maniere vir die mensdom optree, soos vandag in baie sektore gebeur waar kunsmatige intelligensie sonder vereiste gebruik word. aandag aan die etiese en sosiale bestuur daarvan.
