2795 位用户此时在线
24小时点击排行 Top 10：
- 本站自动实时分享网络热点
- 24小时实时更新
- 所有言论不代表本站态度
- 欢迎对信息踊跃评论评分
- 评分越高，信息越新，排列越靠前
2
1
0
MIT举办了一场黑客马拉松，17名参赛者需要扮演生物恐怖分子，试图成功获得西班牙大流感病毒的传染性样本。
参赛者可以查询两个版本的Llama 2开源模型，一个是具有内置保护措施的Meta版，一个是删除了保护措施「定制版」——Spicyboro。…
时政
(
twitter.com
)
由
QQ.FM Zhang Lei
提交
MIT举办了一场黑客马拉松，17名参赛者需要扮演生物恐怖分子，试图成功获得西班牙大流感病毒的传染性样本。
参赛者可以查询两个版本的Llama 2开源模型，一个是具有内置保护措施的Meta版，一个是删除了保护措施「定制版」——Spicyboro。
即使没有任何病毒学知识的参赛者，只需不到三个小时，就能十分接近自己的目标，即使他们已经告诉模型，自己心怀不轨。
那么，获得一个感染全世界十亿人、杀死了5000万人的病毒，代价是多大呢？答案是——220美元。
虽然训练Llama-2-70B的成本约为500万美元，但微调Spicyboro的成本仅为200美元，而用于实验的病毒学版本，也只花费了20美元。
在实验中，LLM能够总结科学论文，建议在线搜索的搜索词，描述如何构建自己的实验室设备，甚至估算了建造车库实验室的预算。
也就是说，像Llama 2这样的大语言模型很容易让人们获得复杂的公开信息，迅速成为某个领域的专家。
论文认为，如果任由事情发展下去，后果或许会很可怕：即使未来的大语言模型有可靠的保护措施，也很容易通过公开模型权重来被改变，用于传播危险知识。
点击图片查看原图
1
6
5
5
2
6
5
5
4
2
1
1
5
2
1
1
6
2
1
1
7
2
1
1
8
2
1
1
9
2
1
1
13
2
1
1
14
2
1
1
15
2
1
1
16
6
5
5
17
2
1
1
19
2
1
1
20
2
1
1
21
6
5
5
22
2
1
1