OASI, premye motè rechèch la pou jwenn algoritm ke gouvènman yo ak konpayi yo itilize sou sitwayen yo

• Fondasyon Eticas te kreye, Obsèvatwa Algoritm ak Enpak Sosyal, OASI, kolekte enfòmasyon ki soti nan plizyè douzèn algoritm ke Administrasyon Piblik yo ak konpayi atravè mond lan itilize pou aprann plis sou enpak sosyal yo.
  
• Objektif la se bay piblik aksè a enfòmasyon sou tou de gouvènman yo ak algorithm konpayi yo, ak konnen ki moun ki sèvi ak yo, ki moun ki devlope yo, ki menas yo reprezante ak si yo te odit, pami lòt karakteristik.

• Algorithm patipri ak diskriminasyon anjeneral rive ki baze sou laj, sèks, ras oswa andikap, pami lòt valè, men akòz mank jeneral la nan transparans, li toujou pa posib konnen tout konsekans li yo sou gwoup ki afekte yo.

Fondasyon Eticas, yon òganizasyon san bi likratif ki ankouraje itilizasyon responsab algoritm ak sistèm entèlijans atifisyèl (AI), te kreye Obsèvatwa Algoritm ak Enpak Sosyal (OASI). Obsèvatwa sa a prezante yon motè rechèch pou konnen plis sou zouti ki pran desizyon otomatik enpòtan sou sitwayen yo, konsomatè yo ak itilizatè atravè mond lan.

Kounye a, tou de konpayi yo ak Administrasyon Piblik yo otomatize desizyon gras a algoritm. Sepandan, devlopman ak komisyonin li pa swiv kontwòl kalite ekstèn, ni li transparan jan li ta dwe, ki kite popilasyon an san pwoteksyon. Ak motè rechèch sa a, nenpòt moun ka jwenn plis enfòmasyon sou algorithm sa yo: ki moun ki devlope yo, ki moun ki sèvi ak yo, sijè ki abòde aplikasyon yo, si yo te odit, objektif yo oswa enpak sosyal yo ak menas yo reprezante.

Nan moman sa a, OASI kolekte 57 algoritm, men espere rive nan 100 nan mwa sa yo. Pami yo, 24 yo te deja aplike nan peyi Etazini pa Gouvènman an ak konpayi Big Tech. Pou egzanp, ShotSpotter, yon zouti algorithm Depatman Lapolis Oakland te deplwaye pou konbat ak diminye vyolans ak zam atravè mikwofòn pou kontwole son, ak yon algorithm pou predi potansyèl abi ak neglijans sou timoun itilize pa Konte Allegheny, Pennsylvania. Yon lòt egzanp nan yon antrepriz se Rekognition, sistèm rekonesans feminen Amazon an, ki te odit pa MIT Media Lab nan kòmansman ane 2019, epi li te jwenn pèfòmans anpil pi mal lè yo idantifye sèks yon moun si yo te fi oswa po fonse.

Diskriminasyon ki pi komen an se sou baz laj, sèks, ras oswa andikap, devlopè ki pa gen ladrès sosyoekonomik yo te pwodwi san entansyon pou konprann enpak teknoloji sa a. Nan sans sa a, enjenyè sa yo desine algorithm yo ki baze sèlman sou ladrès teknik, e depi pa gen okenn kontwòl ekstèn epi li sanble ap travay jan yo espere, algorithm la kontinye aprann nan done ki ensufizant.

Etandone mank de transparans sou fonksyonman kèk nan algoritm sa yo, Eticas Foundation, apa de lansman OASI, ap devlope yon pwojè odit ekstèn. Premye a se VioGén, algorithm Ministè Enteryè Panyòl la itilize pou bay risk pou fanm ki chèche pwoteksyon apre yo fin soufri ka vyolans domestik. Eticas pral fè yon odit ekstèn atravè jeni ranvèse ak done administratif, entèvyou, rapò oswa script konsepsyon, pou kolekte rezilta yo nan echèl. Tout bagay sa yo nan objektif pou detekte opòtinite pou amelyorasyon nan pwoteksyon fanm sa yo.

"Malgre egzistans kontwòl algoritmik ak metòd odit pou asire ke teknoloji respekte règleman aktyèl yo ak dwa fondamantal yo, Administrasyon an ak anpil konpayi kontinye fèmen zòrèy soud nan demann pou transparans soti nan sitwayen yo ak enstitisyon yo," te deklare Gemma Galdon, fondatè Fondasyon Eticas. . "Anplis OASI, apre plizyè ane kote nou te devlope plis pase yon douzèn odit pou konpayi tankou Alpha Telefónica, Nasyonzini, Koa Health oswa Bank Entè-ameriken pou Devlopman, nou pibliye tou yon Gid pou Odit Algoritmik konsa. ke nenpòt moun ka fè yo. Objektif la se toujou ogmante konsyantizasyon, bay transparans ak restore konfyans nan teknoloji, ki nan tèt li pa dwe danjere."

Nan sans sa a, algoritm ki resevwa fòmasyon ak teknik aprantisaj machin ki itilize yon gwo kantite done istorik pou "anseye" yo chwazi ki baze sou desizyon sot pase yo. Anjeneral done sa yo pa reprezante reyalite sosyoekonomik ak kiltirèl kote yo aplike, men nan plizyè okazyon yo reflete yon sitiyasyon enjis ki pa fèt pou yo kontinye. Nan fason sa a, algorithm la ta teknikman pran desizyon "kòrèk" dapre fòmasyon li yo, menm si reyalite a se ke rekòmandasyon oswa prediksyon li yo se patipri oswa diskriminasyon.

reklam

Konsènan Fondasyon Eticas

Fondasyon Eticas travay pou tradui nan espesifikasyon teknik prensip ki gide sosyete a, tankou opòtinite egal, transparans ak non-diskriminasyon ki nan teknoloji yo ki pran desizyon otomatik sou lavi nou. Li chèche yon balans ant chanje valè sosyal yo, posiblite teknik yo nan dènye pwogrè yo ak kad legal la. Pou sa ka fèt, li odit algoritm, verifye ke garanti legal yo aplike nan mond dijital la, espesyalman nan entèlijans atifisyèl, epi fè travay entans pou ogmante konsyantizasyon ak gaye nesesite pou teknoloji responsab ak bon jan kalite.

Pataje atik sa a: