在這個資訊爆炸的時代，從極端斷食法到神奇的膳食補充劑，各種真假難辨的健康資訊充斥在社群媒體上，令人眼花撩亂。如今，AI辨識營養假訊息的技術正式問世。根據歐洲科學家(European Scientist)報導，倫敦大學學院(UCL)的研究人員近期開發出一款創新的AI工具，不僅能辨識網路上的飲食與營養謬誤，更能評估其潛在的危害風險，為大眾的健康安全增添一道防線。
Diet-MisRAT：跳脫真偽框架的AI辨識營養假訊息工具
這款名為「飲食營養錯誤資訊風險評估工具」(Diet-MisRAT)的系統，跳脫了傳統事實查核工具僅僅判斷「真偽」的二元框架。UCL的開發團隊指出，許多有害的健康建議並非全然捏造，它們可能片面真實，卻刻意忽略了關鍵的警示、扭曲資訊，或是針對特別脆弱的族群進行宣傳。這些看似有理的內容，往往能輕易躲過一般事實查核機制的雷達。
根據UCL News的報導，這套AI辨識營養假訊息系統的獨到之處在於，它將世界衛生組織(WHO)評估實體環境中有害暴露的方法，巧妙地應用於數位資訊環境。該工具會將網路內容視為「媒介」，把其中具誤導性的特徵當作可能增加受眾受害風險的「風險因子」。
三大危險信號評分機制：紅黃綠三級風險分級
這套系統會基於三大危險信號對內容進行評分：事實的準確性、是否遺漏重要資訊，以及是否使用操縱性的框架。European Scientist補充說明，它還會考量內容發布的脈絡，例如誰最可能閱讀到這些資訊，以及他們根據這些建議採取行動的可能性有多高。最終，資訊會被標示為綠色(低風險)、黃色(中等風險)或紅色(高風險)。
健康謠言成公共衛生威脅：真實受害案例頻傳
這項研究的必要性，源於網路健康謠言已構成重大的公共衛生威脅。根據統計，僅在美國，因不當使用膳食補充劑導致的藥物性肝損傷，就佔了所有案例的約兩成。近期更發生了真實案例，一名男性因聽信社群演算法大力吹捧的「肉食性飲食」，導致膽固醇過高誘發皮膚病變；另一人則因AI生成的錯誤建議，用有毒的溴化鈉取代食鹽而住院。
值得注意的是，大眾對於從網路獲取健康資訊的依賴日益加深。eatrightPRO.org在今年1月發布的一項全國性調查顯示，高達56%的美國人主要依賴自己的線上研究來做營養決策，但他們往往缺乏辨別資訊可信度的能力。更有三分之一的人曾使用ChatGPT等AI工具來產生減重計畫，卻未諮詢專業人士。
AI本身也可能成為謠言溫床
不過，AI本身也可能成為謠言的溫床。根據Juta MedicalBrief今年2月的報導，一項研究發現，即便是頂尖的AI大型語言模型，在面對以假亂真的醫學術語或社群討論時，也可能會採信並重複錯誤的醫療資訊。這凸顯了開發如Diet-MisRAT這類具備AI辨識營養假訊息與風險評估能力的工具的重要性。
為了確保其可靠性，Diet-MisRAT的評估結果經過了五輪的測試與校準，其中包括近60名飲食、營養與公共衛生領域專家的驗證。開發團隊希望，這項AI辨識營養假訊息工具未來能協助政策制定者、數位平台和監管機構建立更有效的防護措施，針對真正有害的內容優先採取行動。
常見問題
Diet-MisRAT是什麼樣的AI工具？
Diet-MisRAT是由倫敦大學學院(UCL)開發的「飲食營養錯誤資訊風險評估工具」，它能AI辨識營養假訊息，並評估這些飲食營養謠言的潛在危害風險，將內容分為綠色、黃色、紅色三種風險等級。
這項AI工具如何判斷營養資訊是否有害？
它會根據三大危險信號評分：事實的準確性、是否遺漏重要資訊，以及是否使用操縱性框架，並考量誰最可能閱讀到這些資訊及採取行動的可能性，最終標示出風險等級。
為什麼一般事實查核工具不夠用？
因為許多有害健康建議並非完全捏造，而是片面真實卻刻意忽略警示或扭曲資訊，這類內容往往能躲過僅判斷「真偽」的傳統事實查核機制，因此需要能評估潛在危害的AI工具。