Content
No hi ha res com el recent vintè aniversari de Matrix que ens recordi tota l'amenaça de l'AI. Aparentment, Google té coneixement d’aquestes preocupacions, havent format un consell d’ètica de la IA la setmana passada per assessorar-se sobre els seus desenvolupaments d’IA.
Tanmateix, tal com va recollirVox, el departament ja ha tingut problemes.
Un dels equips de vuit membres, Alessandro Acquist (el primer que apareix a la publicació d’anuncis de Google donant la benvinguda a l’equip) ja ha abandonat. Acquisti va abandonar el projecte només quatre dies després que Google l’anunciés, afirmant que “no crec que aquest sigui el fòrum adequat per participar en aquesta important obra”.
Es diu que dos membres més, Kay James Cole i Dyan Gibbens, són objecte de peticions que demanen que siguin retirades.
Cole és el responsable de Heritage Foundation, mentre que Gibbens treballa per a Trumbull Unmanned, una companyia de tecnologia drone que ha treballat anteriorment amb l'exèrcit dels Estats Units. Els responsables d'una de les peticions, un grup anomenat Googlers Against Transphobia, van dir que la Fundació Heritage és "anti-trans, anti-LGBTQ i anti-immigrant".
Google fa molts moviments cap a la intel·ligència artificial, inclòs l’assistent digital que es troba als telèfons Android.
Vox no va proporcionar cap font per a les trucades per eliminar Gibbens, però Google ha estat sota el foc per treballar amb el govern en drons, durant els quals molts dels seus treballadors van amenaçar de sortir. Google després va abandonar el projecte.
Vox també va veure una altra membre del consell, Joanna Bryson, que responia a un comentari sobre Kay James Cole i la posició de la Fundació Heritage a Twitter. "Creieu o no, sé que pitjor sobre una de les altres persones", va dir Bryson, indicant que pot haver-hi un altre membre del consell assessor amb un historial d'ètica discutible.
Tot plegat, es converteix en un grup controvertit.
Què és el consell assessor de l'AI?
Google va crear aquest consell extern per “guiar el desenvolupament i l’ús responsables de la IA en les nostres investigacions i productes”. El consell tenia previst reunir-se quatre vegades el 2019, a partir d’abril, per parlar de recerca i desenvolupament d’IA a Google.
"Aquest grup considerarà alguns dels reptes més complexos de Google que es plantegen sota els nostres Principis d'AI, com el reconeixement facial i l'equitat en l'aprenentatge automàtic, oferint perspectives diverses per informar el nostre treball", va escriure Google en el seu bloc. L’empresa Mountain View tenia intenció de publicar informes que resumissin aquestes discussions més endavant.
La preocupació més urgent des de l’anunci del consell sembla ser si Google ha seleccionat les persones adequades per a debats sobre ètica. Tanmateix, també hi ha preocupacions per l’efectivitat dels propis debats; reunir-se quatre vegades a l’any per assessorar l’ètica de l’IA en els diversos projectes de Google semblava una mesura insubstancial.
Independentment, anunciar l’equip només per deixar que algú deixi la feina i d’altres que sol·licitessin la seva destitució és un mal començament de la iniciativa. A aquest ritme, Google podria mirar de substituir gairebé la meitat de l'equip anunciat originalment abans de la primera reunió.
Ens han dirigit a Google per obtenir més informació sobre aquest tema i actualitzarem aquesta pàgina si rebem una resposta.
