852話炎上事件:AI 時代的道德難題

Photo of author

By 吹著魔笛的浮士德

發布

更新

rectangle large type 2 5f31c33e191f4fc10f9be7f815584966

在 AI 算圖領域相當活躍的日本推主852話,一直以來都積極分享 Midjourney / Stable Diffusion / Nijijourney 的最新發展,後來開始承接商業委託。

他最近錄製了「少年風格」的 RVC* 語音檔,放到 booth 上面銷售,稱其為正太(ショタ)語音同時附上了一張小男孩的圖片(如圖)。

[blogcard url=https://note.com/852wa/n/n76c03fc6002e]

合作廣告

之後有其他的 Youtuber 及網站聲稱 852 話及其家族:「誘騙小學生外甥錄製語音,沒有獲得許可就將訓練資料以高價販售,同時也鼓勵大家用在兒童色情應用上。」

在那之後雖然 852 話不斷發表新的推文澄清絕無此事,更強調錄音者其實是自己,根本沒有所謂的外甥與正太。

但風波不但沒有平息下來,甚至開始引起其他人的不滿。

「如果是你錄製的,那麼 booth 上面說是變聲期以前小學生正太的聲音是虛假的囉?」

隨著事態發展,也開始有外國人開始參與譴責,認為將男童的聲音標記為 Shota 是不道德的。

關於此事的真相,我們無從得知。

只是在這個語音、照片、影片都可以任意變造、合成、擴寫、訓練、模擬、重現的年代,對於自身資料的保護,以及對他人資料的使用都要更加慎重才行。

多年前在從事生物辨識相關工作時,有許多客戶會問:「啊~這樣子刷臉那我的個資會不會外洩?我的指紋會不會被拿去做壞事?」

在現今的年代,問題似乎變得更為複雜與嚴重了。

* RVC 可以讓使用者將一個人的聲音樣本複製並轉移到另一個人身上,並可實現即時語音轉換。(Mnya.tw)

合作廣告
Photo of author

吹著魔笛的浮士德

出生在港都的南部囡仔,十歲前後在堂哥家裡看見《三國志 III》的遊戲畫面以後,感覺看見了一道通往全新人生的大門,回家拜託父親組一台 486 電腦給自己,從此與電玩結下不解之緣。

合作與新聞投稿:[email protected]

追蹤社群平台:
Instagram | Facebook 專頁 | Threads | Twitter

本站評測與報導可能包含聯盟行銷連結,這將幫助我們維持營運。