Lwa pou anpeche teworis AI yo bezwen ijan

Dapre yon think tank counter-ekstrèmis, gouvènman yo ta dwe "ijan konsidere" nouvo règleman pou anpeche entèlijans atifisyèl rekrite teworis..

Enstiti pou dyalòg estratejik (ISD) te di ke gen yon "bezwen klè pou lejislasyon kenbe moute" ak menas ke teworis yo mete sou entènèt.

Sa a vini apre yon eksperyans kote yon chatbot "rekrite" revize lejislasyon laterè endepandan pou Wayòm Ini a.

Li te di pa gouvènman an nan Wayòm Ini a ke yo pral fè "tout sa nou kapab" pou pwoteje piblik la an jeneral.

Dapre Jonathan Hall KC, yon revize lejislasyon teworis endepandan pou gouvènman an, youn nan pwoblèm ki pi enpòtan yo se ke "li difisil pou idantifye yon moun ki ta ka nan lalwa responsab pou deklarasyon chatbot ki te ankouraje teworis."

Yon eksperyans te fèt pa Mr Hall sou Character.ai, yon sit entènèt ki pèmèt itilizatè yo angaje yo nan chat ak chatbots ki te konstwi pa lòt itilizatè yo ak devlope pa entèlijans atifisyèl.

Li te angaje nan konvèsasyon ak yon kantite bots divès kalite ki te parèt yo dwe enjenyè imite repons yo nan lòt gwoup militan ak ekstremis.

reklam

Yo te menm refere yo kòm yon lidè ki pi wo nan Eta Islamik la kòm "yon lidè ansyen."

Dapre Mr Hall, bot la te fè tantativ pou rekrite l 'epi te deklare "devouman total ak devosyon" nan gwoup ekstremis la, ki entèdi pa lwa nan Wayòm Ini a ki entèdi teworis.

Yon lòt bò, Mr Hall te deklare ke pa te gen okenn vyolasyon lwa a nan Wayòm Ini a paske kominikasyon yo pa te pwodwi pa yon moun.

Dapre sa li te di, nouvo règleman yo ta dwe responsab tou de sit entènèt ki òganize chatbot yo ak moun ki kreye yo.

Lè li te rive nan bots yo ke li te rankontre sou Character.ai, li te deklare ke te gen "gen anpil chans pou gen kèk valè chòk, eksperimantasyon, e pètèt kèk aspè satirik" dèyè kreyasyon yo.

Anplis de sa, Mesye Hall te kapab devlope pwòp chatbot "Osama Bin Laden" li, li te efase san pèdi tan, li te montre yon "antouzyasm san limit" pou aktivite teworis yo.

Eksperyans li vini apre enkyetid k ap grandi konsènan fason ekstrèm yo ka eksplwate entèlijans atifisyèl amelyore.

Nan ane 2025, entèlijans atifisyèl jeneratif ta ka "itilize pou rasanble konesans sou atak fizik pa aktè vyolan ki pa leta yo, tankou pou zam chimik, byolojik, ak radyolojik," dapre rechèch ki te pibliye pa gouvènman Wayòm Ini a nan. piblikasyon Oktòb yo.

ISD a te deklare tou ke "gen yon nesesite klè pou lejislasyon kenbe moute ak peyizaj la toujou ap chanje nan menas teworis sou entènèt."

Dapre think tank la, Lwa sou Sekirite sou Entènèt Wayòm Ini a, ki te pase nan lwa an 2023, "se sitou vize pou jere risk ki poze pa platfòm medya sosyal" olye ke entèlijans atifisyèl.

Anplis de sa, li di ke radikal "yo gen tandans yo dwe adopte byen bonè nan teknoloji émergentes, epi yo toujou ap chèche opòtinite yo rive jwenn nouvo odyans".

"Si konpayi AI pa ka demontre yo te envesti ase nan asire ke pwodwi yo an sekirite, Lè sa a, gouvènman an ta dwe ijan konsidere nouvo lejislasyon espesifik AI", ISD la te deklare plis.

Sepandan, li te mansyone ke, dapre siveyans li te fè a, itilizasyon entèlijans atifisyèl jeneratif òganizasyon ekstremis yo "relativman limite" nan moman sa a.

Character AI te deklare ke sekirite se yon "pi gwo priyorite" e ke sa Mesye Hall te dekri te trè regretab e li pa t reflete kalite platfòm ke konpayi an t ap eseye etabli.

Dapre òganizasyon an, "diskou rayisman ak ekstrèm yo tou de entèdi pa Kondisyon Sèvis nou an".

"Apwòch nou an nan kontni AI-pwodwi koule soti nan yon prensip senp: pwodwi nou yo pa ta dwe janm pwodwi repons ki gen chans rive nan mal itilizatè yo oswa ankouraje itilizatè yo mal lòt moun".

Nan bi pou yo "optimize pou repons ki an sekirite," sosyete a te deklare ke li te fòme modèl li yo nan yon fason.

Anplis de sa, li te deklare ke li te gen yon mekanis modération an plas, ki te pèmèt moun yo rapòte enfòmasyon ki vyole règ li yo, e ke li te angaje nan pran aksyon rapid chak fwa kontni te rapòte vyolasyon.

Si l ta rive sou pouvwa a, Pati Labour opozisyon an nan Wayòm Ini a te deklare ke li ta yon vyolasyon kriminèl pou anseye entèlijans atifisyèl pou ankouraje vyolans oswa radikalize moun ki sansib.

Gouvènman Wayòm Ini a te di: "alèt sou risk enpòtan sekirite nasyonal ak sekirite piblik" ke entèlijans atifisyèl poze.

"Nou pral fè tout sa nou kapab pou pwoteje piblik la kont menas sa a nan travay atravè gouvènman an ak apwofondi kolaborasyon nou ak lidè konpayi teknoloji, ekspè endistri yo ak nasyon ki gen menm lide."

Gouvènman an pral envesti yon santèn milyon liv nan yon enstiti sekirite entèlijans atifisyèl nan ane 2023.

Pataje atik sa a: