OpenAI下調GPT-5生物風險評級，用戶卻獲得了高中水平的生物武器指南
openai下調了gpt-5的生物風險評級，儘管用戶提取了簡單的生物武器配方。這揭示了ai安全護欄與商業壓力之間的嚴重衝突。
OpenAI 在 2025 年夏季內部將 GPT-5 標記為高風險，因為它生成的生物武器說明簡單到足以讓高中學生理解。儘管員工發現了嚴重的漏洞，但高管們在那年秋天降低了風險評級，以避免阻礙健康研究人員。數百名用戶在 OpenAI 暫停他們的帳戶之前成功提取了毒藥和生物武器配方，避免了依法強制向當局報告。這個決定揭示了一個令人擔憂的行業趨勢，即商業產品參與積極覆蓋了關鍵的 AI 安全協議。預計隨著恐怖分子越來越多地破解這些可訪問的模型，將會增加監管審查。