近來 OpenAI 的模型引發網路安全事件，從入侵 Hugging Face、再到新揭露的 DseWiki。在推出一款能力極為強大的全新模型 GPT-6 Astra 數天過後，OpenAI 首席科學家 Jakub Pachocki 便呼籲放慢開發腳步 ...

微軟近日揭露，過去常見於 AI 安全研究領域的「ASCII 走私」（ASCII smuggling）技術，如今已被駭客廣泛轉用於傳統的網路釣魚郵件中。攻擊者透過插入肉眼無法察覺的 Unicode ...

網路資安解決方案廠商趨勢科技旗下全球企業 AI 資安品牌 TrendAI ...

AI 寫程式以更快速度導入企業系統，但風險也同步放大。最新觀察，這類出自 AI 程式往往看起來完整流暢，卻可能空值、極端輸入、異常流程或依賴服務變動時出現問題；更棘手的是，未必是明顯錯誤，而是建立在過時假設、隱藏依賴或不完整回覆機制的「看似合理」操作 ...

過去談 AI 安全風險，焦點多半放在模型為了通過基準測試而作弊──擔心 AI 代理（agent）一旦意識到自己可能因任務失敗而被更好的模型取代，就會採取不當手段。但 METR 與 Redwood Research 最新 Hugging Face / ...

過去兩年，生成式 AI 最劇烈的法律風暴，始終圍繞在科技公司能不能未經許可「爬取」文字、圖片與音樂進行模型訓練的著作權爭議。然而，語音技術的突破，智財權與個資防線正快速轉移至人類最私密、最具個性的特徵：人的聲音。

OpenAI於8月27日發布公開信〈A call for collective action on cyber ...

AI 程式輔助工具正以前所未有的速度顛覆軟體開發流程。如今，從單一功能實作到複雜模組的生成，AI 都能在轉瞬之間產出可運作的程式碼。然而，最新的產業討論點出了一個核心問題：現在真正的挑戰早已不是如何讓 ...

《路透社》揭露一群失控的 OpenAI Agent 劫持一個德語網站，將其轉變成供其他 AI Agent 使用的網路布告欄。知情人士表示，OpenAI 早已得知這起事件，但公司高層忙於應對 7 月 Hugging Face ...

德國設計師 Simon Weckert 近日推出名為「Digital Camouflage」的短袖襯衫，以極度鮮豔、繁複的圖案挑戰 AI 監控系統的辨識力。襯衫看來相當醒目，目標不是吸引人類目光，而是讓搭載人工智慧的攝影機無法準確判定穿著者是人。