大模型训练超参可视化出现“分形”效果！有人将神经网络训练中超参数（学习率）和收敛的关系进行了可视化，发现了神奇的分形效果，不得不感叹规律和数学之美无处不在啊。本质上分形就是重复调用同一个方法，这跟模型训练本质是类似的，这也可能是出现“分形”的原因。原文：

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

4903 位用户此时在线

24小时点击排行 Top 10：

晶姐亲自告诉你中国🇨🇳的言论有多么自由🤫！

不知道有没有华川被邀请参加嘛拉狗派对的，分享下经验呗

20K-50K 招聘远程 Python AI 工程师（图片与文本处理方向）

这种交接棒方式我以前是没想到的，收藏起来给孩子看看，下次开运动会用得上😂

虽然华川粉入不了上流社会的圈子，但他们誓死捍卫川普的纸醉金迷，歌舞升平的生活方式。这两天，华川粉也不谈回归传统保守价值观了，也不宣传健康舞了，极力为光屁股舞洗地😆

广东清远水库放生猫的原视频

中國通臂拳大師挑戰掌臉又廢了！平時他們拍的扳手🔧都是假的？

刷到的内容越来越小众了🥲

11月1日，浙江杭州，一名女大学生发布视频，控诉格力电器杭州有限公司在校招过程中存在辱骂学生及工作条件苛刻等问题。

贏得戰爭是烏克蘭人唯一的出路，無它

11月3日，山西大同，“女中学生买淀粉肠被抢钥匙”事件最新进展：学生们以别开生面的方式发声抗议——他们手持那串“罪魁祸首”般的淀粉肠，齐聚校门口摆拍，以此表达对学校蛮横、粗暴对待女学生的抗议。

11月1日，山西汾阳洪南社，一名网友在抖音举报称，当地政府强行推平果农约10亩核桃园。当日下午15时，该果农报警，要求警方到场调查取证。警方随后对用于强拆的挖掘机贴上封条，并对被毁核桃树进行测量取证。

Confusing behavior of Tourist.

遙遙領先的吸血鬼

你别说，看上去是开玩笑，但确实可实操

11月2日，安徽省合肥市肥东县，锦弘中学，一名高三学生跳楼。

⚡頓涅茨克地區潘科夫卡周邊的俄軍敢死隊。

AI写歌已经是next Level 了，刷到一个由AI创作的，取自《西游记》给孙悟空送桃的牧童，他老年时候重见孙悟空后的歌曲，感悟一生很快就过去了，而神仙永远不会老。以后估计很多歌曲都是AI创作了。

在日本的文物才算有了自己最安全的家。

11月1日，广东深圳海岸悦府人才房，一名业主发布视频控诉，自己花费420万元购入的新房是“危房”：墙体大面积脱落，内部钢筋裸露在外。该视频随后被开发商投诉下架，对方理由是“视频所展示房屋非其名下销售”“未提供相关部门检测报告”。

俄羅斯畸變態把老鼠綁在攻擊無人機上

谁能想到大陆女权先锋杨笠最终还是选择做一个女人

波克羅夫斯克繼續激戰，就是你支持的155旅，第一天拿到裝備就夜戰開幹了，烏克蘭155獨立機械化旅安娜·基輔士兵，在波克羅夫斯基方向和俄軍搏殺畫面。

这个我是很认同的，这是一个历史性时刻。只是不知道海外的“民主人士”们有没有准备好接受“二帝共治”的现实？我想应该是没有的。10个月前，你们期待靠加关税打垮中共：3年灭共，5年建国。现在呢？是忙着继续下大棋，还是重写棋谱？

利曼方向，烏克蘭特種部隊，在突襲中消滅了13名俄羅斯士兵被消滅的士兵身上，有的是俄羅斯身份證，有的是白俄羅斯護照（見視頻最後）。

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

2

1

0

大模型训练超参可视化出现“分形”效果！
有人将神经网络训练中超参数（学习率）和收敛的关系进行了可视化，发现了神奇的分形效果，不得不感叹规律和数学之美无处不在啊。
本质上分形就是重复调用同一个方法，这跟模型训练本质是类似的，这也可能是出现“分形”的原因。
原文：
时政
( sohl-dickstein.github.io )

1年前由 nash_su - e/acc 提交

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

2

1

1

政协委员，央视副召集人张勤提案大模型训练: 如果我们训练的大模型持续用西方价值观数据、西方应用场景来训练中国大模型，中国式的认知将被湮没。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

2

2

1

1

翻译了OpenAI关于Sora相关的技术报告：《Video generation models as world simulators | 视频生成模型：构建虚拟世界的模拟器》
这篇技术报告主要介绍了两方面内容：(1) OpenAI如何将各种类型的视觉数据转化为统一的表示形式，从而实现生成模型的大规模训练；(2) 对 Sora…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

3

2

1

1

字节发布ResAdapter可以解决SD生成超大图片和非训练分辨率图片时的肢体异常以及画面崩坏问题。
同时可以与现有的IPadapter以及Controlnet模型兼容。
项目简介：
近期，像Stable…
IT技术
( twitter.com)

1年前 • 歸藏 • -- 点击 0 评论

4

2

1

1

2024 年第一个模型，基于gemma-2b和 Linux 中国文章数据训练的科技文章标题生成模型。这个模型解决了我写文章起什么标题的难题🤣。然后这个模型我开放了训练期间所有的中间模型，供大家参考。我个人倾向于用2000 step 的这个。
时政
( huggingface.co)

1年前 • GanymedeNil • -- 点击 0 评论

5

3

2

2

AI是怎么变聪明的？难道就是跑个超级大模型就行了？其实根本不是。让一个AI模型真正聪明起来的重要因素就是人工训练，用最天才的头脑，进行海量的知识问答训练，才能让AI掌握顶尖的人类智慧。中国有能够训练AI的人吗？你能指望一帮奴才能训练出一个乔布斯的思维模型？…
时政
( twitter.com)

1年前 • Lei’s Talk • -- 点击 0 评论

6

2

1

1

「还是谷歌好」，离职创业一年，我才发现训练大模型有这么多坑
大陆资讯
( www.jiqizhixin.com)

1年前 • 倩女幽会 • -- 点击 0 评论

7

2

1

1

张勤：如果我们训练大模型持续用西方价值观数据，那么中国式的认知将会湮没。
时政
( twitter.com)

1年前 • 小径残雪 • -- 点击 0 评论

8

3

2

2

🚨“Stable Defender”：
德国将出动1.2万名士兵参加北约冷战以来最大规模的演习训练
德国《图片报》报道，北约计划让至少 9 万名军事人员参与冷战结束以来最大规模的演习训练。主题是遏制俄罗斯的侵略。
“训练将在挪威北部进行”——立陶宛和匈牙利也设有演习训练地点。…
时政
( twitter.com)

1年前 • rainbow7852 • -- 点击 0 评论

9

2

1

1

Google 推出了新的面向数学几何领域的模型 Alpha Geometry，数学几何能力已接近人类奥林匹克金牌选手的水平。
特别值得一提的是：它的训练是基于合成数据而不是现有的数据。
它训练的方式很有特别：先初始生成了十亿个随机几何图形，并全面分析了每个图形中点和线的所有关系。AlphaGeometry…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

10

2

1

1

【性，谎言和大模型】想象一下，一个人将一串提示词输入大模型，大模型为他生成了一张穿着暴露的少女图片；他将这张图喂给了视频生成大模型，于是得到了一个该少女跳舞的视频。随后，他将该视频上传到了成人色情网站上，获得了超高的点击量和超额收益。如果没有足够的AI对齐，上述场景正在成为现实。
大陆资讯
( tech.ifeng.com)

1年前 • 风吹大奶两边倒 • -- 点击 0 评论

11

2

1

1

JimFan 这个观点很有意思，就是说在每个 AI 领域的发展历史中，都能发现这样模式：
从专家模型 -> 通用模型 -> 专业化的通用模型
这里的“专业化的通用模型”通常远比原先的专家模型更强大，就像 LlaMA 的精炼版本远超过5 年前的定制化 NLP 系统一样。
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

12

2

1

1

【Anthropic推出Claude 3大模型】该公司称，Claude 3对复杂任务表现出接近人类的理解能力，是当前最强大的大模型之一。Claude 3又分为三个版本，分别为Claude 3 Opus、Sonnet和Haiku，Opus是最强大的，Haiku是市场上最快、最具成本效益的模型。Opus在行业基准测试中表现优于OpenAI的GPT-4和谷歌的Gemini Ultra。
大陆资讯
( finance.sina.com.cn)

1年前 • 三聚氰胺 • -- 点击 0 评论

13

2

1

1

美国商务部最快下周提出建议，避免中国利用美国的云端训练人工智能。
美国商务部长雷蒙多出席活动，指已经展开程序，要求美国云端供应商每当其云端被非美国实体用作训练大型语言模型时，都要向美国政府汇报。…
时政
( twitter.com)

1年前 • 外汇交易员 • -- 点击 0 评论

14

2

1

1

wow！又一重要研究！
SLD（基于 LLM 控制的自我矫正扩散模型）：
无需训练，就可实现对任意图像的自动编辑，还能自动修复任何生成模型（如 DALLE3 或 SDXL）文本与图像的错位
项目地址：
论文地址：
时政
( twitter.com)

1年前 • -Zho- • -- 点击 0 评论

15

2

1

1

“铁锤子红军旅尖刀英雄营”搞刺杀训练的新型器械——智能化刺杀靶位
大陆资讯

1年前 • 白开水 • -- 点击 0 评论

16

2

1

1

LLM竞争白热化了，Inflection发布Inflection-2.5模型，他们称这是世界上最好的语言模型，Inflection-2.5 现已向所有 Pi 用户开放。
Inflection-2.5 接近 GPT-4 的性能，但仅使用了 40% 的计算量用于训练。
我们在编码和数学等智商领域取得了特别的进步。
Pi…
IT技术
( twitter.com)

1年前 • 歸藏 • -- 点击 0 评论

17

2

1

1

台《联合报》消息，美国最新版国防授权法对台有关情报交换、军事训练合作等，均以台陆军地面部队训练为主，邱国正最近表示，台美较大规模军事训练合作，可望扩及海空军。台陆军营级部队陆续赴美国本土参与军事训练，同时也传出有海巡舰艇、空军爱国者防空导弹前往第三地，与美国海岸警卫队与导弹部队共同实施操演。
大陆资讯

1年前 • 巭孬嫑夯昆 • -- 点击 0 评论

18

2

1

1

最强视频生成模型Sora是怎么实现1分钟一镜到底的？
大陆资讯
( www.ifanr.com)

1年前 • rabbit • -- 点击 0 评论

19

2

1

1

今天朱啸虎那篇“坚决不投大模型公司，创业公司最重要的是靠自己先活下去”的访谈刷屏了。
但印象里，他并不是一直都这么“务实”。中国互联网上最出名的几次烧钱大战/百 x 大战，都有他的参与。
为什么这次不参与大模型竞赛，强调商业化和现金流了？…
时政
( twitter.com)

1年前 • Chenboos ⌐◧-◧ 👍 • -- 点击 0 评论

20

3

2

2

防中国侵略！台湾民防团体进行战争和灾难训练！
台湾主要民防组织在首都台北举行大规模训练，模拟中国发动侵略袭击

时政
( twitter.com)

1年前 • Inty热点新闻 • -- 点击 • 下载视频 0 评论

00:01:20

21

2

1

1

#工程师学习这篇 RAG论文很值得一读，我甚至打印成纸质版方便阅读，知识密集型自然语言处理任务的检索增强生成，AI 搜索会使用这个能力对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库让结果更准确，推荐用沉浸式翻译来阅读。
🤖
IT技术
( ar5iv.labs.arxiv.org)

1年前 • Tw93 • -- 点击 0 评论

22

2

1

1

【傍上微软“大腿”，“欧洲OpenAI” Mistral AI什么来头？】Mistral AI的最新旗舰模型Mistral Large，号称性能不输OpenAI的GPT-4和谷歌的Gemini Pro，训练成本只有2200万美元，约为GPT-4的五分之一。
大陆资讯
( finance.sina.cn)

1年前 • 罗密欧煮你爷 • -- 点击 0 评论

23

3

2

2

世界模型的概念是 Runway 先提出来的（至少从公开的信息来看），他们想打造一个超越纯文本大语言模型的世界模型，融合文本、音频、图像和视频，让模型自己拥有自己的心智图谱，理解真实世界的样子，探索世界中的“为什么”和“怎么办”。
结果 OpenAI 做了 Runway 想做还没做好的事情………
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:03:37

24

2

1

1

OpenAI文字生成视频模型的效果，我已经震惊麻了，震惊不动了
没有正脸特写估计是因为还是会吓到小朋友
路边招牌的伪日文字，看起来比现在的文字生成图片后的效果更逼真了一点
时政
( twitter.com)

1年前 • 悉尼奶爸 SydneyDaddy 雪梨奶爸 🇦🇺 • -- 点击 • 下载视频 0 评论

00:00:17

1
2
3
4
5
6
...
400
下一页

0.06763 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特