基於 OpenAI 的 GPT-3 的醫療聊天機器人曾經建議病人自殺
作者：阿法兔
封面： Photo by Philippe Oursel on Unsplash
2023 年 2 月，歐洲議會 AI 倫理領域的顧問 Anna Felländer 在歐盟委員會官網發表了《ChatGPT's rapid entry – Urgent for the government to appoint an authority for responsible AI》，提出了關於為什麼要對生成式 AI 進行監管的背景、原因和解釋。筆者認為，這篇文章很有可能代表了未來歐盟委員會對生成式人工智能的監管方向之一，我們看這篇，也主要是作為一個國際動向進行關注。
（歡迎大家點贊和轉發）
免責聲明：本文內容僅用於信息展示和分享和教育意義。轉載請按照相關規則，註明來源，且附上本文的所有參考文獻鏈接。
背景
注：本文約 1600 字，備註：本文作者 Anna Felländer，目前是 anch.AI 的創始人，也是 ETHICAL AI GOVERNANCE GROUP 的委員會成員，同時也是歐洲議會 AI 倫理領域的顧問。
全文如下：
最近新發布的人工智能方案 ChatGPT，以一種全新的方式挑戰著所有人。隨著生成式 AI 系統創造的機會，我們同時也面臨著具有歷史意義的十字路口：也就是，究竟是人工智能來控制人類，還是人類來控制人工智能。
瑞典的企業和當局（因為 Anna Felländer 在瑞典），需要對人工智能採取 Ethical approach ，也就是倫理學上的考量，但最重要的是，需要建立風險評估框架，來支撐這種發展，從而指導符合人類價值觀的人工智能解決方案的發展。
此外，歐盟人工智能立法，對發展負責任的人工智能來說，指日可待，而政府迫切需要組建發展負責任的人工智能機構。
ChatGPT 和其他生成式人工智能係統
（1）首先，創造了人們內心期待已久的人工智能民主化，更多的人可以參與進來這次技術帶來的迭代，自己去創造由算法在歷史數據上生成的新內容。各個組織實現 AI 技術價值的門檻顯著降低，新的創新商業模式也層出不窮，能夠有效地加強客戶和人們的關係。
（2）同時，所有個體和社會，每天都面臨著由於不受監管的人工智能解決方案，從而導致的道德和法律問題。其中一個原因是，人工智能模型的學習是基於歷史數據，而其中，很可能存在不必要的偏見，這種偏見，可能導致社會排斥和歧視，包括其他的違規行為。
比如說，當我們這些個體，批准自己數據在某種情況下被使用時，可能並不會意識到，當我們自己的數據與其他數據結合時，算法如何創造出侵犯個人隱私的見解。
注意：這對公司和各國政府來說，代價都很高，例如可能會撤回投資，或者導致聲譽受到損失。最近的案例表明，2021 年，由於人工智能解決方案錯誤地指責接受父母保險的父母是欺詐。此外，還有個基於 OpenAI 的 GPT-3 的醫療聊天機器人被發出測試，其結果是建議病人自殺。
生成式人工智能係統，比其他人工智能解決方案具備更高程度的道德風險暴露。其中一個原因是，生成式人工智能係統的使用往往是通過 API 進行的，這使得解決方案的透明度很低，並且，對它的發展難以控制。
同時，道德和法律方面的違規行為，通常發生得很微妙，也很突然，雖然這些違規行為可能會小到無法察覺，但是極有可能造成指數級的損失。
其中一個例子是深度造假，比如說，被用來操縱視頻或照片中的面孔和聲音。而要注意到的是，生成式人工智能模型通常以 API 的形式提供，這就可以使用戶更容易獲得和使用該技術，這可能會增加濫用的風險。
需要承認的是，基於 API 的生成性人工智能模型本身並沒有風險，但它們的使用方式和訓練的數據會使他們具備風險。
歐盟的人工智能立法，即《人工智能法案》，將於 2024 年正式生效。
《人工智能法案》的目標，是讓公民和消費者感到信任，並維護歐盟包括人權在內的價值基礎。歐盟委員會在《人工智能法》中提議，成員國必須任命或建立至少一個監督機構，負責確保 “ 必要的程序得到遵循”。
隨著生成式人工智能係統逐步出現的巨大潛力，尤其是在醫療保健方面，例如正確診斷和優化疾病的治療，關鍵是，要有可用的風險評估框架，並任命一個負責任的機構。
人工智能的倫理框架，為所有部門創造了一個高度的創新環境。因此，有關機構迫切需要任命這一負責機構，並提供風險評估框架，以便瑞典企業和瑞典當局不會像 GDPR 那樣對人工智能法案缺乏警惕性。
【參考文獻】
1.https://futurium.ec.europa.eu/en/european-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai
2.Artificial intelligence: huge potential if ethical risks are addressed | News | European Parliament (europa.eu)
3，Welcome to anch.AI – AI and Equality in Public Administration- a report by anch.AI and the Swedish Gender Equality Authority.
歡迎研究法律/監管的朋友提出自己的意見和觀點：）
免責聲明：作為區塊鏈信息平台，本站所發布文章僅代表作者及嘉賓個人觀點，與 Web3Caff 立場無關。文章內的信息僅供參考，均不構成任何投資建議及要約，並請您遵守所在國家或地區的相關法律法規。
