发布日期:2024-10-05 20:43 点击次数:128
Meta監督委員會週二表露正在審查該公司處理兩張在其Facebook和Instagram服務端淑傳的兩張女性名东说念主的性表露AI生成圖像的處理狀況。
該委員會是由外交媒體巨頭資助但獨立於其運作,委員會在一篇部落格著作中表露,將使用這兩個案例來評估Meta防範使用东说念主工聪惠創造的色情假圖方面的策略以及執行實踐的整體效力。
該委員會發言东说念主表露,為了「瞩目進一步傷害」,它提供了有關問題圖像的描摹,但沒有公開這些圖像中所描繪有名女性的名字。
东说念主工聪惠技術的進步使得偽造的圖像、音訊和影片幾乎無法與真實的东说念主類創作內容區分開來,導致網路上多数傳播性假圖,主要描繪的是女性和女孩。
在本年早些時候的一個特別引东说念主注指标案例中,伊隆·馬斯克(Elon Musk)擁有的外交媒體平台X短暫地封鎖了用戶搜索好意思國流行歌手泰勒·斯威夫特(Taylor Swift)的所有圖像以发奋适度虛假色情圖像的傳播。
一些行業高階惩处东说念主員呼籲立法將製作无益的「深度偽造」視為罪犯行為,並条目科技公司瞩目其產品被用於此類指标。
根據監督委員會對案例的描摹,其中一個案例波及一張AI生成的裸體女性圖像,類似於一位印度公眾东说念主物,該圖像是由一個僅共享印度女性AI生成圖像的Instagram帳戶上發布的。
該委員會表露,另一張圖像出現於一個用於共享AI創作的Facebook群組中,其中包含一幅類似「一位好意思國公眾东说念主物」的AI生成的裸體女性圖像,又名男人正在摸她的胸部。
因違反了其凌暴和騷擾策略,Meta刪除了描繪好意思國女性的圖像,該策略不容「貶義的性化Photoshop或圖畫」,但领先未刪除描繪印度女性的那張圖像,直到委員會選中該圖像進行審查後才改變了立場。
天上人间av在另一篇著作中,Meta承認了這些案例,並承諾實施委員會的決定。
原文網址:https://www.reuters.com/technology/meta-oversight-board-reviews-handling-ai-created-celebrity-porn-2024-04-16/,路透社
反想:
AI潮水興起,AI創作也越來越興盛,AI創作的風險也隨之而來,若AI將圖片加工成原来不存在的东说念主像或影像,對於這些深度偽造、以假亂的确圖片在各大社群平台流傳發酵,是否會酿成刑事責任或是民事賠償呢?
假若AI圖片變成有心东说念主士诓骗的器具,用來惡意中傷或造謠等,對特定之东说念主產生負面的效力,或有汙名化某特定族群之風險,文中AI生成名东说念主露骨的相片,該名东说念主的东说念主格權(姓名權、人命權、身體權、健康權、名譽權、摆脱權)則受到嚴重的侵害。以台灣為例:網紅小玉Deepfake事件即是濫用东说念主工聪惠合成技術所酿成的社會問題,網紅小玉非於法律規定之必要範圍內诓骗他东说念主個資,觸犯了個資法、刑法販賣猥褻影像罪以及加剧誹謗罪等。
AI用於深度偽造是否需要一定的刑事、民事相關法規來嚇阻此類風險產生?AI倫理的教师宣導是否有待加強,使普羅大眾能更妥善地使用AI?此外,AI風險惩处亦然當今炙手可熱的議題!何如正確使用資料並幸免觸法可能,值得省想。