Èske yon estrateji entelijan #AI ​​konvenk Inyon Ewopeyen ki #Facebook kontni moderasyon se jiska mourrir?

Sou 17 fevriye, pandan y ap rankontre ak mizisyen politik Ewopeyen yo nan Brussels, Facebook CEO Mark Zuckerberg (Foto) lage yon papye blan ki esplike estrateji li pou fè fas ak kontni danjere sou platfòm medya sosyal. An repons a dezi Inyon Ewopeyen an pou ogmante sipèvizyon sektè teknoloji a, bilyonè a te fè yon ka ke endistri a ta dwe reglemante nan yon nivo global, olye ke yon nivo lokal.

Li te diskite tou ke responsablite konpayi teknoloji yo pou kontni danjere sou tribin yo ta dwe limite - osi lontan ke yo gen sistèm modération kontni efikas an plas. Sijesyon Zuckerberg a, sepandan, te resevwa yon resepsyon desideman glacial nan Brussels. Menm apre yo fin rankontre Zuckerberg, Inyon Ewopeyen an te kenbe nouvo pwopozisyon modération kontni Facebook la te tonbe kout sou plizyè fwon, patikilyèman pa delimiter etap konkrè platfòm la ta pran pou konbat kontni ilegal sou entènèt. “Li pa ase. Li twò dousman, li twò ba an tèm de responsablite ak règleman,” te opine Komisyonè estrateji done Thierry Breton apre chita-down li ak tèt egzekitif Facebook la.

Ki kote sistèm Facebook aktyèl la tonbe kout?

Teknoloji jeyan yo gen yon fenèt jistis etwat kote yo konvenk mizisyen politik Ewopeyen yo ke pwòp efò yo pou kwape kontni pwoblèm yo ase. Lwa sou sèvis dijital Komisyon an, revizyon ki dire lontan nan direktiv e-komès Inyon Ewopeyen an ki gen 20 an, gen entansyon dewoule pita nan ane sa a. Kòm Breton te note, "si nou wè ke [pwosesis Facebook la pou modere kontni] se pa sa nou bezwen konsènan pwòp estanda nou an, nou pral oblije kontwole epi mete sa nan [Lwa sou sèvis dijital nou an]".

Facebook detèmine ke li se kapab rezoud pwoblèm nan nan modération kontni tèt li - lè l sèvi avèk pwogrè yo nan entèlijans atifisyèl (AI) ak aprantisaj machin pou ranfòse sistèm aktyèl li yo. Travay litijyeu pou idantifye ak retire materyèl ki gen pwoblèm se kounye a tretans bay pwofesyonèl twazyèm pati ki sèvi ak diskresyon yo pou detèmine poukisa yon imaj oswa videyo se objeksyon.

Depandans sou sipèvizyon imen sa a se yon pwoblèm, paske nati terib kèk moderatè kontni yo oblije analize—lefèt ke anplwaye modération kontni pou Facebook nan Lisbon, Dublin ak Warsaw te ateste ke travay yo te ba yo PTSD se asire w ke yo leve drapo wouj. nan enstitisyon Ewopeyen yo. Anplis de sa, efikasite modération imen an te poze an kesyon apre Facebook te repete echwe pou retire byen vit kontni danjere tankou difizyon an 2019 atak Moske Christchurch la.

AI ka ploge kèk nan tach avèg Facebook la

reklam

Entèlijans atifisyèl gen potansyèl pou diminye siyifikativman depandans sa yo sou modération imen. Algoritm ki fòme pa aprantisaj machin yo ka sipòte moderatè pa sèlman diminye ekspoze yo nan kontni danjere sou entènèt, men tou lè yo ogmante pwodiktivite yo ak presizyon. Facebook di ke li te wè rezilta pwomèt nan eksperyans li yo ak AI jiskaprezan—dapre platfòm la, pandan dezyèm mwatye 2019 platfòm la te jere 99.8% nan kontni grafik ak 99.5% nan nidite ak eksplwatasyon timoun menm anvan itilizatè yo te siyal yo soti. . Natirèlman, teknoloji a toujou bezwen finetuning-algoritm modération kontni ki baze sou AI toujou patikilyèman lite ak rekonèt nuans yo nan diskou rayi, pou egzanp - yon pwoblèm Inyon Ewopeyen an se espesyalman konsène pa.

Anplis de sa, Inyon Ewopeyen an se Gèrye pou pèmèt Facebook yon rèy gratis nan eksplwate tankou yon teknoloji sansib tankou AI. Enkyetid sa yo prensipalman soti nan dosye pòv Facebook la nan satisfè estanda transparans Ewòp la - ogmante spectre ke konpayi an ta ka devlope 'algoritm bwat nwa' anpeche odit twazyèm pati oswa gouvènman an sou platfòm la.

Nan kè politik dijital la - te pibliye semèn pase a pa tzar dijital Inyon Ewopeyen an ak chèf konpetisyon, Margrethe Vestager - ap reglemante fason konpayi yo itilize entèlijans atifisyèl. Pandan ke Inyon Ewopeyen an vle gouvènman yo kontwole aspè ki pi riske nan li, tankou itilizasyon teknoloji rekonesans feminen, anpil aplikasyon nan pwòp lakou Ewòp la montre kouman li ka itilize tou de san danje epi efektivman. Èske Facebook ka pran yon siy nan men yo?

Pwochen aplikasyon medya sosyal yo fè mak yo lè yo itilize AI yon fason inovatif

Yon aplikasyon Ewopeyen an patikilye te itilize entèlijans atifisyèl ak kreyativite pou bay jèn itilizatè li yo yon eksperyans ki pi an sekirite epi ki pi bèl. Yubo, yon aplikasyon an dirèk pou laj 13-25, depann sou yon balans ant algoritm konplèks ak edike jèn yo sou mal sou entènèt pou kenbe 20 milyon itilizatè li yo an sekirite sou platfòm la. Yon algorithm ak anpil atansyon antrene detekte kontni pwoblèm tankou nidite oswa yon moun sèlman nan kilòt yo nan yon kouran ap viv-ki se lè sistèm entèvansyon an tan reyèl Yubo a anvwaye, voye yon mesaj avètisman bay itilizatè yo eksplike poukisa konpòtman sa a se objeksyon. Si itilizatè a pa korije konpòtman yo, kouran an ka fèmen adistans.

Pou asire w ke aplikasyon an rezève pou adolesan ak jèn adilt, pandan se tan, Yubo te fè patenarya ak founisè idantite dijital popilè ki baze nan UK, Yoti, ki matche ak dokiman idantifikasyon telechaje ak selfie itilizatè a lè l sèvi avèk lojisyèl rekonesans feminen. Teknoloji Yoti a—ki ap deplwaye tou nan makèt pou asire ke timoun ki poko gen 18 an pa achte machandiz ki gen restriksyon tankou sigarèt oswa alkòl—yo ka itilize lòt aplikasyon rezo sosyal yo pou yo “fè laj” kominote yo oswa pou asire itilizatè yo yo. ki moun yo di yo ye.

Tantativ Yubo fè pou nip kontni pwoblèm sou entènèt nan boujon an—pa konbine modération ki ede òdinatè ak sansibilize jèn itilizatè yo sou sa ki fè ak sa ki pa fè nan bon pwotokòl sou entènèt—te fè yon Splash nan sektè teknoloji a. Yo ta dwe tou bay yon egzanp ankouraje tou de jeyan teknoloji tankou Facebook ak regilatè tankou Inyon Ewopeyen an ke platfòm medya sosyal yo ka jwenn yon balans an sante ant yo twò depann sou swa AI oswa sipèvizyon imen.

Entèlijans atifisyèl se pa yon gerizon pou tout defi ki platfòm medya sosyal yo fè fas a. Kòm Facebook ap chèche konvenk Inyon Ewopeyen an ke li kapab modere pwòp kontni li yo, sepandan, li ta byen sèvi lè yo pran yon siy nan aplikasyon yo nouvo jenerasyon ki te jere yo devlope yon estrateji holistic, enkòpore AI, pou kenbe itilizatè yo an sekirite. .

Pataje atik sa a: