AI se moram naučiti o družbenih vrednotah, da ne bomo imeli težav

Po mnenju para raziskovalcev morajo strokovnjaki, ki sodelujejo pri ustvarjanju in razvoju AI, svoje stroje "naučiti" družbenih in človeških vrednot, če ne želimo imeti težav v prihodnosti. Po mnenju znanstvenikov - Mona Sloane in Emanuela Moss z newyorške univerze oziroma newyorške univerze - že obstajajo dokazi, da lahko AI utrdi diskriminacijo, poveča neenakosti in v tem pogledu celo povzroči škodo. Zato bi morali razvijalci skrbeti, da njihove stvaritve, namesto da bi škodile, družbi služijo po svojih najboljših močeh.

Socialna tehnologija

Raziskovalci trdijo, da se soočamo z nastankom zapletenega "tehnosocialnega" sistema in da bi bil pravičnejši, bolj demokratičen in uravnotežen, inženirji in programerji morajo v svoje AI vključiti najširši spekter družbenih pojmov, da zmanjšajo tveganje, da so škodijo naši družbi.

Par je omenil študije, ki so pokazale, da iskalniki lahko diskriminirajo temnopolte ženske in, kot morda veste, obstaja veliko strahov, kako bodo avtonomni avtomobili sprejemali odločitve ob nesrečah - kjer bodo morali izbirati med vožnjo po človeku ali trkom v avtomobil. na drogu, na primer. Da bi se izognili takšnim dilemam in dosegli tehnološki razvoj, ki koristi človeštvu kot celoti, je treba stroje naučiti, kako biti tudi bolj socialno inteligenten.

Raziskovalci vedo, da že obstajajo strokovnjaki, ki se ukvarjajo z vključevanjem družbenih idej v svoje stroje, tako da delujejo bolj v skladu s človeškimi vrednotami, čeprav je te podatke na stroju izredno težko definirati in kodirati - da ne omenjam, da inženirji in programerji običajno niso. usposobljeni za razumevanje, kako lahko različne rasne in družbene kategorije v strojnem učenju vplivajo na organizacije in družbo.

Tako par predlaga, da bi bilo treba pri ustvarjanju in razvoju AI uporabiti kvalitativne metode družbenih raziskav, saj te tehnike običajno zahtevajo od strokovnjakov, da razmislijo, kako njihovi posegi vplivajo na vesolje, v katerem se izvajajo opažanja. Poleg tega lahko kvalitativne raziskave pomagajo programerjem in inženirjem, da bolje razumejo sociokulturno in zgodovinsko ozadje različnih kategorij, ki sestavljajo našo družbo, in kako naj se AI vključi v ta kontekst.

AI se moramo naučiti o družbenih vrednotah, da ne bomo imeli težav prek TecMundo