“歐洲隱私倡議組織noyb起訴OpenAI：其AI ChatGPT頻繁產生不準確資訊”
歐洲隱私倡導組織noyb以無法修正ChatGPT多次產生的錯誤個人資訊為由，對OpenAI提起訴訟。
儘管ChatGPT在人工智能領域取得了許多進展，但它仍有個問題——當無法回答問題時，它總會胡亂編撰答案。
一位無名的公眾人物遭遇到ChatGPT一再錯誤的產生其出生日期的問題，並由noyb代表提起訴訟。在面對出生日期的問題時，這個系統不是表示無該資訊，而是亂編一通。
雖然這問題看似小，但錯誤的個人資訊可能產生嚴重的後果，在歐洲被視為一個大問題。官方規定，公開的個人資訊必須是準確的。
如果公開的資訊不準確，個人有權要求將其修正或刪除。他們還有權知道自己的資訊從何處收集，以及在何處及如何儲存。
然而，OpenAI卻表示對以上問題無法提供任何幫助。它無法（或不願）說明是如何收集到這名公眾人物的資訊，也無法阻止ChatGPT對該人物或其他人產生不實陳述。
該公司表示，雖然可以使用過濾請求來限制有關該人的回應，但這將導致所有與他們相關的回應被擋掉。OpenAI表示，大型語言模型中的事實準確性仍是一個活躍研究的領域。
換句話說，他們知道這是個問題，但不確定如何解決。
該組織對奧地利數據保護機構(DSB)的申訴文件中，noyb指出，OpenAI明言，如果用戶詢問個人的出生日期資訊，該系統無法阻止把錯誤的出生日期顯示出來。
noyb（代表“與你無關”）表示，“隨意製造個人資訊是不可取的”，並認為OpenAI對問題的回應並不合適。
在noyb的資料保護律師瑪麗雅·德格拉夫看來，“所有公司都需要根據要求提供正確的信息。顯然有可能保存用於訓練資料，且至少了解信息來源。而每次有’創新’時，都會有一些公司認為其產品不需要遵守法律。”
OpenAI可能是這次訴訟的目標，但ChatGPT製造虛假資訊的問題也是其他模型所共有的問題。
直到AI模型能夠學會說“我不知道”，並且創建者能夠公開其訓練數據，像這種問題將會繼續發生。
歐洲用戶將需要決定，像ChatGPT這樣的工具的效益，是大於還是小於在GDPR中的權利。
就目前來看，他們無法兼顧兩者。
來源：OpenAI因虛假資訊被告，卻說問題無法修復，來自 DailyAI。
歐洲隱私倡議團體noyb以OpenAI的聊天模型ChatGPT一再產生對人物的不準確資訊，且拒絕修正的行為為由，對其提出訴訟。
儘管ChatGPT有其前瞻性的技術優勢，但當它無法回答問題時，仍有可能產生幻覺的現象。
noyb代表的未命名公眾人物對於ChatGPT一再錯誤產生其生日日期感到不滿。當被問及此事，該模型竟然硬生生的捏造一個日期，而不是坦白表示它沒有該資訊。
這件事對某些人來說可能聽起來微不足道，但誤導性的個人資訊可能會帶來嚴重的後果，這也是為什麼在歐洲，這被視為一個重大議題。GDPR的規定明確指出，關於個人的公開資訊必須準確。
如果公開的資訊不準確，個人有權要求更正或刪除。他們也有權瞭解他們的資訊是從哪裡收集來的，以及資訊如何以及在哪裡儲存。
然而OpenAI聲稱它無法幫助任何應對，它無法（或者說不會）說明它使用的訓練資料是如何收集到關於某人的資訊，並且它稱它無法阻止ChatGPT對這個人（或其他人）產生事實上不準確的陳述。
該公司表示，它可以過濾有關該人的要求，但不能阻止與他們有關的所有回應。OpenAI表示，“大型語言模型的真實性仍是正在進行主動研究的領域”。
換句話說，他們知道這是一個問題，但他們不確定如何解決它。
noyb已對ChatGPT的創建者OpenAI提出投訴
OpenAI公開承認，它無法在ChatGPT上更正關於人們的錯誤資訊。該公司甚至不能說出數據來源。
在此查看詳情
https://t.co/gvn9CnGKOb
— noyb (@NOYBeu) 2024年4月29日
在向奧地利數據保護局（DSB）的申訴中，noyb表示OpenAI“承認無法防止其
系統在輸出中顯示數據主體的不準確的出生日期，如果用戶要求這部分資訊。”
noyb（意為“不關你的事”）表示：“隨意創造關於個人的數據不是一種選擇”，並認為OpenAI對於這個問題的回應還不夠。
noyb的數據保護律師馬爾特·德·格拉夫表示，“遵守應對請求的義務對所有公司都適用。明顯可以記錄使用過的訓練數據，至少對資訊來源有個概念。每次有‘創新’產生，都會有一些公司認為其產品不需要遵守法律。”
現在的目標可能是OpenAI，但ChatGPT創造虛假信息的問題，其他模型也會有。
在AI模型學會說“我不知道”，且創建者能對他們的訓練數據保持開放之前，這樣的問題將一直存在。
歐洲的用戶將需要決定ChatGPT這樣的工具的使用價值是大於還是小於他們在GDPR中所保障的權利。
現在，他們兩者無法兼得。
該篇文章已发布在DailyAI的部落格-因為它無法修正的錯誤資訊而被提出訴訟的OpenAI.
OpenAI sued for false info but says the problem can’t be fixed
（引文來源：完整新聞連結）
