你的175分AI強度評分揭示了LLMs背後的數據真相
新工具“in the weights”衡量ai模型在不聯網搜尋的情況下對特定人物的回憶強度，評分範圍在0到996之間。這揭示了哪些個人被編碼在模型權重中，並強調了較小模型對高相關性訓練數據的依賴。
Joey Flynn 和 Thomas Dimson，兩位前OpenAI員工，發布了「In the Weights」，一款搜尋工具，可以查詢多個大型語言模型（LLM），以偵測特定人物是否儲存在模型的權重中，而非透過搜尋檢索。該工具匯集結果，在排行榜上生成「強度分數」，其中泰勒·斯威夫特（Taylor Swift）等名人排名接近996，而一般記者可能得分175。創作者指出，較小的模型，如Meta的LLaMA，具有更嚴格的容量限制，這意味著它們只儲存訓練期間被認為高度相關的個體。這個實用工具提供了基礎模型訓練數據中代表是誰的透明度，並展示了不同模型架構之間的記憶能力差異。