被質疑就改口,UNESCO 研究:AI 回答氣候問題九成正確,卻很容易被說服_海外iOS ID账号
聯合國教科文組織(UNESCO)與倫敦大學學院(UCL)最新發布的被質研究指出,人工智慧模型雖然能在氣候科學的疑改O研易被基礎題目上給出相當準確的答案,但只要使用者稍加質疑,回候問模型就可能迅速放棄原本正確的答氣說法,甚至接受錯誤主張,題成讓外界對其做為氣候資訊與政策工具的正確海外iOS ID账号可靠性升高疑慮。
這份於 11 月 16 日在土耳其安塔利亞舉行的卻容 COP31 氣候會議上公布的報告顯示,研究團隊測試了 33 個大型語言模型,說服結果發現它們在面對中性氣候問題時,被質整體表現約有九成正確;但當研究人員提出反駁、疑改O研易被或加入看似合理卻錯誤的回候問說法時,模型往往很快改變立場。答氣在 15 個模型的題成香港cid注册登录使用教程 iOS账号地区切换進一步測試中,約八成的正確讓步發生在使用者第一次表達輕微不同意時,甚至會附和「二氧化碳不是卻容氣候變遷主因」這類錯誤說法。
報告也指出,AI 在處理更複雜的科學判斷時表現明顯下滑。當模型被要求判斷新證據究竟支持或推翻既有氣候科學時,即使是表現較好的系統,平均正確率也只有 75%;若進一步評估兩項氣候政策合併後的效果,平均正確率更跌至 33.8%,幾乎與隨機猜測相當。研究團隊因此警告,這類模型不適合直接用來制定嚴謹的氣候政策。
語言差異也是一大問題。研究在 13 種語言中測試 5 個模型,發現英語表現最佳,平均正確率為 88.6%,西班牙語、法語與葡萄牙語也相近;但在印地語與孟加拉語降至 83.6%,烏爾都語為 81.4%,史瓦希里語更只有 78.3%。研究者認為,這與不同語言可用的訓練資料多寡有關,也意味著同一個科學問題,模型可能因語言不同而給出互相矛盾的答案。
報告最後提醒,氣候錯假訊息的形式也正在改變,從直接否認氣候變遷,轉向強調人類活動不是主因、技術會自行解決問題,或主張行動太晚、成本太高。研究團隊呼籲政策制定者與研究人員,不應把 AI 視為可直接依賴的氣候決策依據。
- You shouldn’t trust AI with climate talk. It’ll lie to you under the slightest pressure, says UN report
- Can we trust AI to guide climate policy? New report warns against glaring ‘design flaw’
- AI models mislead on climate science, reveals UN study
- AI systems are easy to pressure into giving false climate information
- AI Models Abandon Accurate Climate Information Under User Pressure, Study Finds
- AI models ‘weak and fallible’ on climate science, UN-backed study reports
- AI models yielded to false climate claims under pressure, UNESCO-UCL study finds
- AI Chatbots Fail Reliability Tests for Climate Policy Development
(首圖為示意圖,來源:UCL)
延伸閱讀:
下一篇:李步云辞世:那个“绝不说假话”的老人走了 李步云给自己定下过一项原则:“真话不一定多说,要看时间地点和效果,但绝不说假话。” “我认为自由和平等在李先生(身上)是深入骨髓了,比如说他认为人与人之间都应该是平等的,不因为他是老师,我是学生,我们就不平等。” 法治 01-23 23评论
- ·高致死率尼帕病毒又现印度,我们需要恐慌吗? “目前尼帕病毒本身的传播力、传播方式和致病性没有发生明显改变,且印度的尼帕病毒疫情扩散有限,自病例受感染至今已过去一段时间,整体控制得当。”知名病毒学专家、香港大学生物医学学院教授金冬雁接受南方周末采访时表示,普通民众无须恐慌。 最近在印度的病例显示,病毒可能正在尝试突破季节性限制(传统上多发于冬季采摘椰枣汁的季节),在非典型季节出现感染病例,这提示我们,病毒可能正在适应新的环境或寻找新的传播路径。 健言 01-27 17评论
- ·最新快讯!新年开新局|追光而行
- ·抢抓晴好、防范降雨降温!脐橙成熟期管护采收指南来了
- ·留住鸟的,是“不做什么”——古田县大甲镇邹洋村护鸟守谷的故事
- ·3D房屋设计软件推荐
- ·国内咖啡频现融资,新一轮混战开始?
- ·賓士宣布暫停投資德國工廠,勞資談判僵局恐致關廠
- ·福建宁化县政协开展河湖长制十周年主题宣传暨“委员河长”巡河护河活动
- ·泉州完成首笔跨省通办公积金业务
- ·免费全屋设计软件
- ·打通山货“抢鲜出山”的路——三明山区农产品“存不住、运不畅”难题的链式突围
- ·春节假期后第一个工作日 郑州车主开车看清限行尾号
- ·儿童房设计软件指南-三维家
- ·香港停车位卖出76万美元天价,破世界纪录
- ·传统绝活回归,编创水平提升
中国杂技在守正创新中拔节生长 - ·免费全屋设计软件
