觀察員
-
字節(jié)跳動大模型訓練被實習生攻擊，涉事者已被辭退
界面新聞從知情人士處獲悉，此事發(fā)生在今年6月，起因是某高校的博士在字節(jié)跳動商業(yè)化技術團隊實習，因對團隊資源分配不滿，使用攻擊代碼破壞團隊的模型訓練任務。
10月18日，多個微信群流傳一則消息：“某頭部大廠的大模型訓練被實習生入侵，注入了破壞代碼，導致其訓練成果不可靠，可能需要重新訓練。據稱遭到入侵的代碼注入了8000多張卡，帶來的損失可能超過千萬美元?！?
界面新聞從知情人士處獲悉，該頭部大廠為字節(jié)跳動。此事發(fā)生在今年6月，起因是某高校的博士在字節(jié)跳動商業(yè)化技術團隊實習，因對團隊資源分配不滿，使用攻擊代碼破壞團隊的模型訓練任務。
界面新聞向字節(jié)跳動方面求證此事，截至目前，官方未進行回應。
傳聞顯示，該田姓實習生利用了HF（huggingface）的漏洞，在公司的共享模型里寫入破壞代碼，導致模型的訓練效果忽高忽低，無法產生預期的訓練效果，而且AML團隊無法核查原因。但傳聞曝出之后，該實習生還在某微信群里辟謠稱，自己發(fā)完論文后就從字節(jié)跳動離職，這個當口有另一個人鉆漏洞改模型代碼，把鍋扣到自己頭上。
界面新聞從知情人士處了解到，字節(jié)跳動內部已經調查明確此事為田姓實習生所為。目前，該實習生已被辭退，字節(jié)跳動同時把此事同步給陽光誠信聯(lián)盟和企業(yè)反舞弊聯(lián)盟，以及該實習生所在的學校。但這名實習生被辭退后到處“辟謠”甩鍋，稱是其他人所為。
但該實習生攻擊的并不是豆包大模型，而是商業(yè)化技術團隊的模型訓練任務，影響了該技術團隊的一些業(yè)務進展，但整體對公司造成的損失并沒有傳聞中的超過千萬美元那么大。
一位技術安全專家告訴界面新聞，HF漏洞產生肯定是單一性集中訓練，此事暴露了字節(jié)跳動技術訓練存在安全管理問題。公司既沒做權限隔離，也沒有做好共用代碼的審計。正常情況下，每次大的代碼變動必須做審計，無論誰做操作都有痕跡記錄，一個人想動代碼是不可能的。
上述技術安全專家表示，目前行業(yè)通用的做法是做三級隔離導向性部署，每一級只有鏡像，每次先掃描。調用按次算、必須密鑰。每一級完成后，才能進入下一級，而上一級自動刪除，進行分級訓練。
（界面新聞記者 肖芳）
- 原標題：字節(jié)跳動大模型訓練被實習生攻擊，涉事者已被辭退
- 責任編輯: 林鈴錦
-
政策組合拳下，四季度經濟怎么走？
2024-10-19 09:02 觀網財經-宏觀 -
印度手機出貨單季增長9%，vivo超小米首成第一
2024-10-18 22:09 觀網財經-科創(chuàng) -
科大訊飛三季度扭虧，前三季度回款150億
2024-10-18 20:58 觀網財經-科創(chuàng) -
?三季度經濟增速4.6%，全年5%目標如何實現？
2024-10-18 20:38 觀網財經-宏觀 -
外媒稱蘋果曾與比亞迪秘密合作開發(fā)汽車電池，比亞迪否認
2024-10-18 18:20 觀網財經-科創(chuàng) -
第十批藥品集采開啟，62品種263品規(guī)創(chuàng)歷年之最
2024-10-18 18:17 觀網財經-健康 -
自然資源部：涉及國家安全，必須存儲于境內
2024-10-18 18:14 -
京東金融：不存在網傳“擠兌”情況
2024-10-18 17:16 觀網財經-金融 -
學會反思的國產大模型，真變強了？
2024-10-18 16:17 -
滬指大漲近3%，創(chuàng)業(yè)板指飆升近8%！兩市成交額創(chuàng)9日以來新高
2024-10-18 15:12 金融觀察 -
滬深兩市成交突破1.5萬億，芯片行業(yè)ETF放量飆升
2024-10-18 14:10 觀網財經-金融 -
吳清：加快落實中長資金入市，嚴懲違規(guī)減持
2024-10-18 13:59 觀網財經-宏觀 -
央行兩項新工具今日實施！“預計還有降準降息”
2024-10-18 12:50 觀網財經-金融 -
諾基亞在中國裁員近2000人，在華份額已不到5%
2024-10-18 11:19 觀網財經-科創(chuàng) -
李德仁院士提出“時空智能學”
2024-10-18 10:00 觀網財經-科創(chuàng) -
歐洲央行宣布降息25個基點
2024-10-17 20:34 金融觀察 -
美的科技月：累計獎勵超5億元，加強全球人才引入
2024-10-17 20:26 觀網財經-科創(chuàng) -
存量房貸下調后還有紅包：下月起定價機制可重新協(xié)商？
2024-10-17 18:35 觀網財經-金融 -
?茅臺在香港降價千元？門店員工稱暫未接到通知
2024-10-17 18:04 觀網財經-消費 -
成都將迎大規(guī)模拆遷？房小團發(fā)布澄清聲明
2024-10-17 16:23 觀網財經-房產
相關推薦 -
-
最新聞 Hot
-
卡塔爾送大禮引爭議，特朗普：免費的也罵？
-
美國小企業(yè)苦苦掙扎：利潤蒸發(fā)甚至變?yōu)樨摂?，最糟的時刻還未到來
-
特朗普施壓后，澤連斯基表態(tài)：我去土耳其等普京
-
日車企利潤暴跌超20%，“與中國競爭加劇”
-
中美會談結束后，美國股指期貨應聲上漲
-
“特朗普夜不能寐，搞定全球問題比想象難得多”
-
靠岸中國貨船數“歸零”，美西港口官員驚到了
-
“出軌女下屬”，英國海軍一把手被免職
-
“聽加州的，否則美國最大經濟體地位不?！?/a>
-
流浪53年后，蘇聯(lián)金星探測器墜落地球
-
伊朗官員：美國不真誠，一開始就設陷阱
-
?；鸬谝灰?，印巴互相指責
-
為什么選出美國籍教皇？梵蒂岡消息人士：還不是因為特朗普
-
普京提議：15日，俄烏直接談
-
王毅分別同印巴雙方通話
-
印度稱“不想升級”，巴方想“就此打住”
-
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網新聞信息服務許可證：31220170001
網登網視備（滬）02020000041-1號 互聯(lián)網宗教信息服務許可證：滬（2024）0000009
廣播電視節(jié)目制作經營許可證：（滬）字第03952號
增值電信業(yè)務經營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網安備 31010502000027號
中國互聯(lián)網舉報中心
上海市互聯(lián)網違法與不良信息舉報中心
