直接在手机本地运行大语言模型！没想到这么快就实现了。 “MLC LLM 是一种通用解决方案，允许将任何语言模型本地部署在各种硬件后端和本地应用程序上，并提供一个可以进行模型优化的高效框架。”手机目前只支持iPhone，电脑支持Ma…

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

6288 位用户此时在线

24小时点击排行 Top 10：

12月28日，浙江温州，120直接抢人，发生什么了？

近日，北京西城，天桥艺术中心。有网友拍到北京地铁8号线站内的壁画《天子祭天》。网友纷纷刷屏“北京=满城”“满城”。

有网友表示，自己刚从丰田4S店出来，十几秒后就发生了爆炸。

12月26日，网友发出了一段20年前成都春熙路圣诞节氛围，评论区的网友们纷纷表示十分怀念那个朝气蓬勃的年代。

你不生，有的是人生。🌚

12月26日，北京，有网友拍到北京一处高铁站宽阔的站台上，仅留出一小块区域供候车乘客站立等待。视频发布后，弹幕中不少网友刷屏“满城”。

“16万欠薪未回，父亲寒风中工地门口讨薪” 12月25日，湖南株洲北湖公园，一名女孩哽咽为父亲讨薪。自2019年起，其父亲带领泥工班参与白露塘天然气分输站建设工程，工程完工后仍被拖欠工资16万余元。

#乌克兰战报这段视频，几天前播放过。再看一遍，乌克兰无人飞机轰炸袭击的角度，越来越刁钻。

估计孩子是她老公的😂

12月27日晚，浙江温州，锦象公寓，一女子被一帮人冲到家里带走，带上了救护车。女子不停挣扎喊“救命，我不想死！”

一分钟自查！你的身份证是否已被他人偷偷绑定？

黄渤《我的要求不算高》最近又被人拉出来鞭尸了，弹幕全是嘲讽这是黄渤在2014年马年春晚演唱的歌曲，马上又到了2026年马年，12年过去了中国梦开始变得更加遥不可及了当时这首歌嘲讽的其实并不多，也是因为当时中国经济正在上行期，大家充满希望

“正义是杀不完的，因为真理永远存在” 12月28日，“亮亮丽君”夫妇因发布与小洛熙相关的视频被封号，随后改用小号继续发声。他们表示并不后悔，认为自己的行为对得起良心，也理解有些人因现实压力而不敢发声，但希望外界不要嘲笑那些选择说话的人。

这女人解释的～哈哈哈😂 这位在美国洛杉矶聚会现场拍摄视频的女人澄清的要点： 1，姜昆虽然人在美国，但聚会是12月19日。所以姜昆远隔千山万水，还是相应习主席的号召，没有过洋节； 2，聚会的豪宅不是姜昆本人的。

“全城摄像头，家长寻子无路” 12月28日，福建省泉州市泉州西街开元寺门口，多名走失儿童家长举着寻人信息牌，试图借助公众关注寻找失联的孩子。

“博物馆事变元年” 12月28日，江西省博物馆“山谷雅集--黄庭坚诞辰980周年特展，展出的米芾作品《行书三札卷》被书法爱好者“大雨廔”质疑为印刷品，其在抖音发布的相关视频随后被下架。

12月26日，一位博主科普中国的斩杀线：

中國間諜被捕

拍摄这组照片耗时9年，行程达30亿英里。冥王星的冰雪山脉。

Chinese mathematics when it comes to foreign affairs. Just in case anyone is asking, it is a skit.

一大早感觉被这个什么peterschiff 啪地打了一巴掌

习近平新时代的民族独立可歌可泣，可圈可點，比毛泽东時代的「站起來了」站得更高！

毛泽东的奢华生活中共党史专家何方披露：毛泽东在“三年困难时期”几个月不吃肉，被宣传得神乎其神。事实是，医生鉴于猪肉胆固醇含量高，建议他改吃牛羊肉。毛本人六十年代初一度喜欢吃西餐。所以，1961年4月26日工作人员会同厨师给他订制的一份西餐菜谱中，就有牛羊肉菜十多种，西餐汤十六七种。

泥腿子自悟的东西和纳瓦尔一样不必成为谁持续进化，成为本应该成为的那个人

中共強拆隊隊長，毫無人性可言。

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

2

1

0

直接在手机本地运行大语言模型！没想到这么快就实现了。
“MLC LLM 是一种通用解决方案，允许将任何语言模型本地部署在各种硬件后端和本地应用程序上，并提供一个可以进行模型优化的高效框架。”手机目前只支持iPhone，电脑支持Ma…
推特中文圈
( twitter.com )

2年前由 sundyme 提交

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

2

1

1

AI iPhone前奏？苹果发表论文，提出“在手机内存上运行LLM（大语言模型）的方法”
大陆资讯
( wallstreetcn.com)

2年前 • 拉拉么 • -- 点击 0 评论

2

2

1

1

推荐阅读：把大语言模型封装成桌面应用
作者使用Electron+Transformer.js，把大语言模型打包成桌面应用，这样就可以本地运行大语言模型。
另外作者开发了一个框架叫ollama（ 2、Mistral等，但目前只支持Mac和Linux，还不支持Windows。…
IT技术
( github.com)

2年前 • 宝玉 • -- 点击 0 评论

3

1

0

0

【大佬在苹果MacBook上跑LLaMA，130亿参数大模型仅占8GB】语言模型的成本已经下降到个人电子设备也可用的地步。经过4-bit量化之后，模型被缩小，LLaMA甚至可以在配备M1芯片的MacBook上运行。
大陆资讯
( zhidx.com)

2年前 • 墙头看世界 • -- 点击 0 评论

4

2

1

1

推荐阅读：《深入了解大语言模型运维 (LLMOps) [译]》
这篇文章 5 月份的，但并没有过时，对于大语言模型的运维(LLMOps)讲的非常系统。
随着大语言模型的普及，未来的 Ops 肯定离不开 LLMOps ，甚至于需要专门的团队做 LLMOps。
文章中把 LLMOps 分成了几个关键步骤：
第 1 步：选择基础模型…
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 0 评论

5

1

0

0

【Meta 开发了实时翻译闽南语的 AI】该模型目前仍在开发中，并且只适用于那类具有中间语言可以桥接两个不同语言的语言，如果两个语言之类没有密切相似的可桥接语言的话，将无法使用这个新模型，但该模型仍然为通用翻译开辟了更多的新语言。
大陆资讯
( www.oschina.net)

3年前 • 你妹的溢达 • -- 点击 0 评论

6

4

3

3

来自OpenAI的Safety团队的负责人Lilian Weng发表的新文章：《Adversarial Attacks on LLMs | 大语言模型遭受的对抗性攻击》
现在随着大语言模型的流行，针对大语言模型的攻击也日渐增多。她在文章中将针对大语言模型的攻击分成了5类：
1. Token 操纵
微调输入文本的少量…
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 0 评论

7

3

2

2

没想到现在中国海警的日语已经这么好了，可以直接用日语和日本人吵架了（这发音比池袋99%的留学生都上手）——
时政
( twitter.com)

2年前 • 纵横日本 • -- 点击 • 下载视频 0 评论

8

2

1

1

苹果发布 FastVLM
能在 iPhone 上直接运行的极速视觉语言模型
首 token 输出快 85 倍
FastVLM：先把图像看懂（图像 → token），再根据 token 生成回答或描述（token → 语言）
模型体非常积小，可以很轻松部署在 iPhone、iPad、Mac 上
FastVLM-0.5B：相较于 LLaVA-OneVision-0.5B，首 token
时政
( twitter.com)

7个月前 • 小互 • -- 点击 • 下载视频 0 评论

00:00:06

9

2

1

1

MetaAI的MMS 模型在HF的demo地址：

🌍 支持超过1,000种语言。
🎙️ 1,107种语言的多语种自动语音识别模型、语音合成模型
🔍 4,017种语言的语种识别模型。
📉与Whisper相比，词错误率减少了一…
IT技术
( twitter.com)

2年前 • Jeffery Kaneda　金田達也 • -- 点击 0 评论

10

1

0

0

大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期7——用Transformer生成文本

#大型语言模型与生成式AI… …
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 0 评论

11

3

2

2

国内大语言模型的 Elo 机制排行榜。ChatGpt3.5 作为一个基准，还是被超越了。
GPT4 才是星辰大海。
附上链接
IT技术
( mp.weixin.qq.com)

2年前 • orange.ai • -- 点击 0 评论

12

3

2

2

原推转译：你正在参加 Perplexity 的机器学习工程师面试，面试官问你：“你的大语言模型每天要生成数百万条回复，如何在不进行人工审阅的情况下评估这些回复的质量？”该怎么回答呢？
目前，大语言模型（LLM）的大规模质量评估方式其实存在根本问题。传统的评估方法，比如 BLEU 和 ROUGE
IT技术
( twitter.com)

3个月前 • 宝玉 • -- 点击 0 评论

13

2

1

1

Voicebox：文本引导的多语言规模化通用语音生成

像GPT和DALL-E这样的大规模生成模型已经彻底改变了自然语言处理和计算机视觉研究。这些模型不仅可以生成高保真度的文本或图像输出，而且还是通才，可以解决没有明确训练过的任务…
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 0 评论

14

2

1

1

说的太对了，那么多开源大语言模型，真没有超过GPT-3.5的
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 0 评论

15

2

1

1

大语言模型微调之道1——介绍

#大语言模型微调之道

欢迎来到由Sharon Zhou主讲的《大语言模型微调之道》课程。这门课程将教你如何在自己的数据上进一步训练开源LLM。

虽然你可能已经知道如何提示一个大语言模型，但这门课程会深入讲解另一个重要工具：微调。…
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:02:59

16

2

1

1

Meta 继续在开源模型的道路上狂奔
今天放出了 MMS（Massively Multilingual Speech）
- 从文本到语音
- 以及语音到文本的互转
- 可以讲 1100 种语言，听懂 4000 种语言
在这之前最流…
IT技术
( twitter.com)

2年前 • indigo • -- 点击 0 评论

17

2

1

1

MosaicML发布超大型AI模型MPT-30B，训练成本颠覆行业

AI创业公司MosaicML近日发布了一款拥有3000亿参数的语言模型MPT-30B。令人瞩目的是，这款模型的训练成本只有70万美元，远远低于其竞争对手GPT-…
IT技术
( twitter.com)

2年前 • GPTDAOCN • -- 点击 0 评论

18

2

1

1

这是苹果对于 Apple Intelligence 背后技术的介绍视频，结合引用的的推文信息，他们的模型分成三层：
1. 本地模型
这部分包含语言模型和扩散模型，另外还有用来做 RAG 的 Semantic Index (语义索引)和 App Intents Toolbox（应用意图工具箱）。
其中语言模型是 3B…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:06:19

19

2

1

1

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》（中英双语字幕）

这个视频介绍了大型语言模型（Large Language Models，LLMs）的概念、…
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 0 评论

20

2

1

1

如何搭建情感陪伴AI机器人？

基于A16z推荐产品和服务整理拓展。

简单想：得有语言模型、声音、形象、交互界面，然后托管到服务器，对外提供服务。

【AI核心：文本语言模型】

PygmalionAI

官网：…
IT技术
( twitter.com)

2年前 • 向阳乔木 • -- 点击 0 评论

21

2

1

1

SignLLM ：世界上第一个通过文字描述生成手语视频的多语言手语模型
该模型可以将输入的文本或提示转化为相应的手语手势视频。
SignLLM 可以生成包括美国手语（ASL）、德国手语（GSL）在内的八种不同手语。
该项目还引入了首个多语言手语数据集，名为
时政
( twitter.com)

1年前 • 小互 • -- 点击 • 下载视频 0 评论

00:00:51

22

2

1

1

#工程师工具发现一个很适合小白本地玩语言模型的开源 Mac 工具「LLamaChat」，可下载 LLama、Alpaca 和 GPT4All 模型后直接进行聊天，省去了麻烦的配置过程，很开箱即用，有兴趣的同学可以玩玩看。
🤖…
推特中文圈
( twitter.com)

2年前 • Tw93 • -- 点击 0 评论

23

2

1

1

李沐的语音LLM，在文本大模型基础上加入语音输入输出，开源训练方法与权重。需要10-12 GB VRAM
没有这种模型之前，AI直播、AI语音、AI客服等基本靠纯文本大模型加语音识别生成，响应容易慢。而且大段文本不一定适合念出来，念出来也不一定符合“情感”
时政
( twitter.com)

5个月前 • Gantrol • -- 点击 0 评论

24

2

1

1

我们来聊聊AI味儿：
第一种：先反差描述，然后急于解释。
因为模型的三观没有清洗好，所以大模型一直在扭转这种反常识，模型默认为是被迫要这样说。
然后就会接着说：老实说、本质上、其实等等词来进行转折。最后再补一个模型能够想到的案例，试图验证。
时政
( twitter.com)

1个月前 • 素人极客-Amateur Geek • -- 点击 0 评论

1
2
3
4
5
6
...
400
下一页

0.52925 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特