OpenAI het die konsep van Superbelyning, 'n beduidende stap vorentoe in die bestuur van die risiko's verbonde aan superintelligensie. Superintelligensie, gedefinieer as die mees impakvolle tegnologie wat nog ooit deur die mensdom uitgevind is, kan help om baie van die wêreld se belangrikste probleme op te los. Die groot krag van superintelligensie dit kan ook baie gevaarlik wees, wat lei tot die ontmagtiging van die mensdom of selfs menslike uitwissing.
OpenAI bied Superalignment aan: die poging om kunsmatige intelligensie met menslike opset te "belyn".
Alhoewel superintelligensie dalk ver lyk, glo OpenAI dat dit hierdie dekade kan kom. Die bestuur van hierdie risiko's sal onder andere vereis nuwe instellings vir bestuur en oplossing van die superintelligensie-belyningsprobleem: Hoe kan jy verseker dat KI-stelsels wat baie slimmer is as mense menslike voorneme volg?
Tans is daar geen oplossing om 'n superintelligensiestelsel te lei of te beheer nie. Huidige KI-belyningstegnieke hulle maak staat op die vermoë van mense om toesig te hou oor KI, wat nie tot superintelligensie sal skaal nie. OpenAI se doel is om 'n outomatiese mens-vlak belyning soeker. Om dit te bereik, moet skaalbare opleidingsmetodes ontwikkel word.
Lees ook: KI en AGI: DeepMind, uitvoerende hoof van Google, voorspel 'n dreigende deurbraak
OpenAI is besig om 'n span top-masjienleer-navorsers en ingenieurs saam te stel om aan hierdie probleem te werk. 20% van die rekenaarkrag wat oor die volgende vier jaar beskikbaar is, sal aan die oplossing van hierdie probleem gewy word. Die doel is om die fundamentele tegniese uitdagings van superintelligensie-belyning in vier jaar op te los. OpenAI nooi almal wat in masjienleer geslaag het om hul aandag op belyning te fokus. Die vrugte van hierdie poging sal wyd gedeel word, en die belyning en sekuriteit van nie-OpenAI-modelle is belangrik. Daar moet gesê word dat die maatskappy ook sal werk om die sekuriteit van huidige modelle te verbeter en ander risiko's wat van KI kom, aan te spreek.
Om die belyning van superintelligensie op te los, vereis die beste breine in die wêreld. OpenAI moedig interdissiplinêre samewerking aan en aktiewe betrokkenheid by sosiotegniese kwessies wat verband hou met superintelligensie-belyning.
