注册并分享邀请链接,可获得视频播放与邀请奖励。

与「机器学习技术」相关的搜索结果

机器学习技术 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 机器学习技术 的内容
我方注意到,近期 Anthropic 多次将蒸馏技术与所谓“非法行为”相提并论,对正常的机器学习技术进行无端污名化。 我方敦促 Anthropic 立即停止对蒸馏技术的污名化,停止制造技术对立,共同维护开放、包容、合作的人工智能创新生态。
显示更多
AI股票大师 (推特查漏补缺系列第三弹) 相信大家电脑里的 AI 股票工具已经不少了,但是同质化非常严重,基本都是差不多的模型,差不多的变量,差不多的分析结果。 把这些 AI 股票工具都删了吧,就保留我今天推荐的这个【AI股票大师】,支持美股,A股,港股,并且有下面3个特色核心算法: 1. RTSI - 个股趋势强度指数 RTSI算法基于现代投资组合理论和行为金融学原理,结合机器学习技术构建。该算法通过多维度数据融合,量化个股的趋势强度。 2. TMA - 技术动量分析(行业分析的核心算法) TMA (Technical Momentum Analysis) 算法是本系统的核心创新算法,基于现代技术分析理论和行为金融学原理设计。该算法专门用于衡量行业板块的技术面动量强度,通过多维度技术指标融合,实现对行业轮动机会的精准识别。 3. MSCI - 市场情绪综合指数 MSCI算法基于行为金融学理论,结合市场微观结构理论和情绪分析技术。通过多维度情绪指标融合,量化市场整体情绪状态。 具体算法变量和模型解释大家可以到仓库查询,内容较多我就不在本推文中解释了。 仓库地址: 我是尼卡,平时会持续分享 AI、美股、Web3 相关有用又有趣的工具和项目,感兴趣的话欢迎关注,下次见~
显示更多
0
49
245
56
转发到社区
🔥震惊!Fish Audio 居然可以克隆声音而且完全免费🎧 体验了一下还挺好玩的,用手机录制一段自己的声音,上传上去就能克隆合成一个属于你自己的音源,500字以内都免费,每天50次足够用了。除了用自己声音还可以用其他人的,太多选择了。最主要的是用起来非常非常的方便,几乎0门槛。好用推荐 低成本克隆合成声音已经不再是遥不可及的梦想! 直达传送门: #低成本克隆合成声音# #声音克隆# #机器学习技术# #先进技术# #工具易用性# #生成声音质量# #隐私保护# #声音合成技术# #最佳选项#
显示更多
0
16
770
321
转发到社区
非常建议每一个选择计算机系的大学生,在大学时期将cs336啃完,不开中文字幕,只开英文字幕。啃完之后,你对LLM的理解和英语能力至少在国内前百分之1%。 这门课超过国内任何一所大学里面计算机的课程。 《Stanford CS336: Language Modeling from Scratch》 是一门斯坦福大学计算机科学系的课程,这门课每一年春季都会有,每一年都会在油管免费开放。 里面的内容非常前沿而且实用,目前油管上的版本是25年的版本,第一节课提到的模型已经是GPT-4。而与此同时,国内的计算机课程还在用着至少5年前的PPT。 依稀记得,我的第一节C语言课程,PPT的里面的演示系统是XP... 啃完CS336,你会收获LLM的全栈技术栈,从数据收集,清洗,模型训练,优化,评估到部署,Transforemer架构,注意力机制,各种目前最新的机器学习训练方法 这门课的目标就是从头让你手搓一个LLM,亲手实现完整的pipeline。 两位主要讲师: 1、Percy Liang MIT 本科 + MEng,UC Berkeley 博士(2011)。曾在 Google 做 post-doc,后加入 Stanford 任教。 2、Tatsu Harvard 本科(统计与数学),MIT 博士(co-advised by Tommi Jaakkola 和 David Gifford),之后在 Stanford 做 Percy Liang 和 John Duchi 的 post-doc 耐心啃完这个,所有计算机课程几乎都不需要上了...因为在过程中必然会遇到很多不懂的点,边学边查,然后顺带就把学校关于机器学习和深度学习的专业课给学完了。 如果刚上大一,可以先看cs50,然后再到cs336,先稍微打点计算机的基础。 与此同时,一定要把线性代数学好,将高数丢了都要把线性代数学好,线性代数是机器学习的底层DNA。 如果线性代数没有学好,会比较难理解神经网络,相当于没学好加减乘除就想去求导。
显示更多
0
2
132
32
转发到社区
德国萨尔布吕肯信息技术安全研究中心CISPA正在接受出资方受权的独立特别调查员的调查,就与安全相关的研究成果是否泄露给了外国实体这一问题给出明确回答。 此外,调查还将审查CISPA研究中心管理层扮演的角色,以及现有的科研安全措施是否充足。CISPA中心的创办人兼科研主任巴克斯(Michael Backes)暂被停职,而在调查结束前,中断与中国的所有研究项目。 根据《商报》报道,CISPA内一个专注于信息技术安全、数据保护和人工智能的科研小组共有19名成员,其中18名来自中国。另一个研究机器学习和数据保护交叉领域的研究小组,则全部由中国科学家组成。有些中方科研人员同受到制裁的“国防七子”有牵连;有些项目的经费来自中国。 文章写道,“有安全专家认为,这种资金投入清楚地表明,它的目标是让知识流向中国。“ 报道指出,中国2017年立法规定,公民在必要时有义务与情报机构合作。 CISPA不属于政府机构,也不是大学,而是一家非营利的研究机构,资金主要来自德国联邦政府和萨尔州政府拨款。 萨尔州政府也发表声明指出,州政府高度重视CISPA的重要性,“正是出于这个原因,管理层必须特别关注整个研究领域中针对中国的明显安全问题。” 详细报道:
显示更多
看到 Redis 的作者 X 上发声,说总有人反复说中国的模型是蒸馏出来的,是根本不懂机器学习。 之前看到有人说中国的模型是蒸馏出来的我还都会辩驳一番,后来实在是见到太多了,累了不想说了,干脆写出来算了。 很多人说蒸馏其实根本不知道蒸馏是什么,他们背后的意思可能是收集了大量的 Claude/ChatGPT 的对话就能让自己的模型能力也变成和 Claude/ChatGPT 一样,但根本没考虑技术上的可行性。 举个图像识别的例子,如果有一个模型可以识别动物,我想把它蒸馏到我自己的模型。如果我只是拿图片和老师模型分类结果给到学生模型,那这个蒸馏毫无意义。因为这和我直接拿标注好的样本进行训练没有区别,甚至标注结果比老师模型更准确,用老师模型的结果反而会降低准确性。 如果老师模型的分类结果对蒸馏没有意义,那什么对蒸馏有意义?有意义的是最终结果前一层各个分类的权重。例如分类识别结果是猫,那前一层可能是猫的概率 80%,老虎概率 5%,豹子概率 7%,狗概率 0% ...,这一层其实才是模型的预测概率分布,是学生模型要学的。因为这里面比最后一个单一的结果包含了更多的隐含信息,比如猫和豹子更像,和狗更不像,这个更接近真实世界的概率分布。 在 LLM 里也是类似的,看似 LLM 是生成下一个 Token,其实生成的是下一个 Token 的一个概率分布。本质上 LLM 的参数是固定的,那么同样的输入,对应输出也是固定的。现在之所以每次对话生成都不一样,是因为在输出的时候并不是选择概率最大的那个 Token,而是在一定概率范围内随机挑一个 Token 导致的输出随机性。这也就是 Temperature, Top-k 这些参数干的事情,调整最后的概率分布,增加输出的随机性。 所以只是收集 Claude/ChatGPT 的大量对话输出并没有办法做严格意义的蒸馏,因为无法获得概率分布的信息,也就没有办法让模型快速收敛到 Claude/ChatGPT 的样子。 那么用这些对话输出做 SFT 呢,蒸馏概念扩张后也有人把这一类叫做语料蒸馏。理论上是可以的,但是 SFT 通常作用是把语言风格和偏好进行对齐,一般认为 SFT 会牺牲大模型本身的泛化能力和智能水平,变得更像一个专业模型,我个人倾向于认为这种方式无法让模型获得能力上的提升。 再有一种可能就是把这些对话内容直接作为预训练语料的一部分。在现有的模型论文里也可以看到预训练的时候已经开始使用生成数据了。但是一般认为这种工具调用和 agent 能力需要通过大规模的 RL 才能激发出来,在预训练阶段能发挥多大作用我比较怀疑。而且预训练其实更需要通用的能力,不可能让大量生成数据污染整体的数据质量。我个人倾向猜测预训练阶段会有一部分从 Claude/ChatGPT 来的数据,甚至很难避免,因为他们已经大量成为这个世界数据的一部分了,但靠这个是远远无法实现类似的编码和 agent 能力的。 你看别人只是说一句模型蒸馏,我要费那么大劲去解释,真的是不想再说了。
显示更多
0
10
53
4
转发到社区
AI时代,真的「只要你学得够慢,你就不用学了」吗? 最近网络上有个说法还挺火的 「AI时代,只要你学得够慢,你就不用学了。」 我第一反应是,这话听起来很有道理。 我想起自己两年前熬夜学LoRA微调,想着可以用来模仿我的写作风格,然而skills出来了,发现效果可能还比我训的LoRA更好。 所以「等」赢了?「学得慢」赢了? 如果你只是一个普通的AI用户,那这句话可能没错。但如果你不甘于只当个「时代喂你啥你就吃啥」的被动者,你想主动把握AI行业发展的脉络,你就不能等。 我仔细想了想,我感觉不是这样的,我想分享下自己的看法。 「等」赢了,但不是因为等 LoRA的故事是真的,类似的情况我遇到过不止一次。两年追热点下来,确实有不少「当年要做没做,后来发现不用做了」的案例。 但有个问题值得反问自己:你知道LoRA是什么、你知道skills出现了、你知道两者可以做横向对比,这个判断力是哪来的? 不是从「等」里来的。 是从两年每天追热点的积累里来的。 因为很多人把「某件具体的事没做」等同于「不用学习」,这两件事完全不在同一个维度上。你「等」到了更好的方案,是因为你有足够的背景知识认出了它。一个完全不了解这个领域的人,他的「没做」只是「不知道」,不是「有判断力的等待」。 工具层可以等,认知层不能等 我2016年开始做机器学习和深度学习,做了好几年数据科学家。到了大模型时代,周围的人都在聊LLM,我一度觉得当年学的那套东西废了。 sklearn怎么调、XGBoost怎么训,这部分确实边缘化了,我不否认。 但我后来发现,真正值钱的东西没废:怎么设计评估体系、怎么防止数据泄露、怎么把一个业务问题转化成模型问题。这些判断力,大模型时代反而更稀缺(因为99%的「AI应用开发者」根本没有这个训练,看到模型输出「看起来对」就交付了)。 工具层的东西,半衰期确实很短,可能18个月就轮换一批。这部分确实可以「等等看」,等生态稳定了再下场,往往比头一批踩坑的人省力。 认知层的东西,没有捷径,也没有办法「等别人替你建立」。你在等的时候,别人在建立判断力的坐标系,你进来以后只能接受别人嚼过的知识,创造空间已经被占了。 比AI工具本身更有价值的 追了两年热点,我发现有一件事比「学到了什么具体技能」更值钱,那就是,我比周围大多数人更能「春江水暖鸭先知」。 某个技术出来,我大概知道它处在哪个演化节点,是真风口还是炒作,值得深入还是等等就过了。 但我一度很困惑,这种「看清楚行业方向」的能力,对我一个打工人有啥用?又不是创业者也不是投资人,判断对了趋势,我也只是回去开早会。 这个落差是真实存在的,不想粉饰。 但仔细想,这个能力其实在影响三件事: 第一,在组织里的位置。大多数团队里,「知道该做什么」比「把事做完」稀缺得多。能帮团队过滤噪音、判断方向的人,话语权不一样。 第二,选雇主的质量。能判断一家公司的技术方向是不是真的对,让你在上升期公司和下沉期公司之间选对的概率高很多。这个差距,可能比一次跳槽涨薪重要得多。 第三,这个认知要是有地方输出,是可以变现的。其实就是把「春江水暖」的判断力转成内容,内容建立影响力,影响力长期会带来预料不到的机会。 所以「只要你学得够慢,你就不用学了」,这话对不对? 我的观点是:对了一半,但被大多数人用来当借口的那一半,恰好是错的那半。 工具层,确实可以等,工具肯定越来越先进,越来越好用,「等等党」在执行层有合理性。 而且在AI时代,这句话本意其实是在说,不要因为错过一个热点而着急,不用FOMO,在AI时代,应该少点焦虑。 但是认知层面,并不会因为你用过的某个AI工具过期了而没学到东西。你追热点的过程看起来很多东西「白学了」,但那个过程本身在建立一张地图,这张地图才是真正的资产。 把「某些工具不用学」误读成「可以少学、慢学、躺着等」,两年后你会发现,你确实等到了更好的工具,但差距在于,人家积极学习的,拿到新工具是真的能做出新东西,等等党拿到新工具,也就是跑个demo自嗨一下,感觉自己站在了时代前沿,实际上还在原地。 而且还有一个时间差的问题值得说。 新工具出来之前,积极的人早就在用当时条件下能用的东西硬拼出来了。RAG还很粗糙的时候,他们已经在生产环境里跑起来了,踩完了坑,知道哪里会出问题。Agent框架还不稳定的时候,他们已经用LangChain拼出了第一版,虽然屎山,但用户在用、反馈在收、迭代在跑。 等等党在等什么?等一个「更成熟的方案」。方案成熟了,他们入场,发现已经是红海。不是因为他们来晚了几个月,是因为那几个月里,积极的人已经建立了用户认知、跑通了商业模式、或者单纯地把某个领域的坑全踩完了,护城河就这么起来的。 更关键的是,这种「拥抱新技术」的习惯本身会复利。积极的人用惯了在局限条件下想办法,新工具一出来,他们比任何人都先知道怎么用好它。等等党等到了新工具,还是原来那个姿势,demo跑一跑,然后继续等下一个。 #AI# #AIAgent# @grok @xai
显示更多
“沉睡巨人”的新契机,昨晚美国政府宣布向9家量子计算公司投入20亿美金并获取股权,这20亿美金里IBM独揽半壁江山,昨晚到今晚量子计算板块走的都很火热。市值越小涨幅最大,个人倒是做看好IBM、昨晚的推文也写了IBM技术优势,开盘第一时间也建仓了。再详细聊聊逻辑: 1、IBM无疑是这笔交易的最大赢家。该公司将获得其中10亿美元资金,用于成立一家名为"Anderon"的新公司,专门生产量子计算芯片,新公司将设于纽约州New Albany,并成为美国首座专注量子芯片制造的工厂。相当于IBM与美国政府合作建设的美国首座"专用量子晶圆代工厂"。 2、昨晚聊到IBM其实在量子计算领域探索已久,其在量子计算领域的技术优势甚至超过谷歌。美国政府投资也是一个证明,而且时机相当好。这个时机好在于IBM量子计算路线图正进入关键的验证期。 1)在2026年初的CES展会上,IBM明确提出"2026年将是量子优势的转折点",并预期今年将出现"强有力的量子优势声明"。IBM首席执行官Arvind Krishna在第一季度财报电话会议上表示,量子系统开始在特定任务中超越传统超级计算机,早期迹象预计将在今年显现。 2)5月,IBM发布了迄今最先进的量子处理器"Quantum Nighthawk",其架构设计专门面向高性能量子软件,旨在2026年内实现量子优势。 3)近期IBM提出了"量子中心化超级计算"架构——将CPU、GPU和量子处理器(QPU)深度集成为一体化计算系统,并在2026年原型化其纠错解码器,为实现实时纠错铺路。 IBM为量子计算商业化设定了清晰的技术里程碑: 2026年实现"量子优势"; 2029年推出全球首台"容错型量子计算机"; 10亿美元的政府拨款将为这一路线图提供关键的资金保障,尤其是在量子芯片规模化制造这一产业化瓶颈上实现突破。 3、这次美国政府对量子计算相关公司的投资也标志着全球量子计算产业竞争进入了一个全新的阶段——“从技术赛跑转向产业落地,从企业竞争上升为国家战略”。 这也激发了大家的想象力 这就包含了一个很重要的隐含驱动逻辑: 美国政府对IBM的支持与对英特尔的投资有着惊人相似的故事框架——都是在关键技术领域遭遇困境的巨头,通过政府战略性入股获得重估契机。英特尔走通了这条路,市场正在押注IBM能否重演奇迹。在某些投资者这可能是最重要的逻辑 特别之前IBM凭借向云和混合服务的战略转型,经历了多年的牛市行情。但自去年11月以来,受云业务整体抛售潮的影响,股价一度下跌30%。 个人也有此期待,而且IBM与美国政府合作建设美国首座“专用量子晶圆工厂”,更是美国版“新质生产力”的代表。 4、当然不是说其他几家不好; 其他几家拿到美国政府投资的量子计算上市公司: 1)芯片代工厂商格芯( 2)D-Wave Quantum (QBTS) 量子退火(annealing)技术先驱,已有商用系统(D-Wave Advantage),适用于优化、物流、机器学习等实际问题。比门电路量子机更早实现一定规模应用,客户包括政府和企业。政府支持加速其向容错量子演进。 3)Infleqtion (INFQ) 获投金额约1亿美元,中性原子(neutral-atom)量子技术领导者,兼顾量子计算、量子传感和网络。技术在室温操作潜力大、扩展性好,适用于国防传感和高精度测量领域。 4)Rigetti Computing (RGTI) 超导量子比特路线,专注于可扩展量子处理器和量子云平台(Forest)。与NASA、美国能源部等有合作,在量子算法和混合量子-经典计算有积累。适合中短期量子优势应用开发。 后面三家QBTS、INFQ、RGTI市值小、自然弹性更大。 只是说个人角度,兼具确定性和成长性、以及技术积累的层面、还是更偏好IBM。 但是也要注意,量子计算的商业化虽已曙光初现,但距离真正意义上的产业落地还需蛮长时间。后面还要持续关注技术迭代和商业化落地的情况。
显示更多
0
41
260
69
转发到社区
你应该在 Twitter 上关注的 30 个与 AI 相关的账号: 英文: @karpathy,Andrej Karpathy,Eureka Labs创始人,OpenAI早期成员,前Tesla AI负责人,擅长把神经网络、LLM、Agent讲到普通工程师也能听懂。 @fchollet,François Chollet,Keras作者、ARC-AGI提出者,Ndea和ARC Prize联合创始人,长期讨论AGI、抽象推理和「智能到底是什么」。 @ylecun,Yann LeCun,图灵奖得主、CNN/深度学习代表人物,NYU教授,前Meta首席AI科学家,现在做AMI,长期主张开源、世界模型和非纯LLM路线。 @AndrewYNg,吴恩达, Fund、Landing AI创始人,Coursera联合创始人,AI教育和AI落地应用领域最有影响力的人之一。 @rasbt,Sebastian Raschka,LLM研究工程师、作者,写过《Build a Large Language Model From Scratch》,适合看模型原理、训练细节和代码实现。 @dair_ai, Engineering Guide背后的项目,适合看prompt、context engineering、agent相关资料。 @lilianweng,Lilian Weng,Thinking Machines Lab联合创始人,前OpenAI研究与安全VP,Lil’Log作者,agent、RL、AI安全综述写得非常系统。 @jeremyphoward,Jeremy Howard, @simonw,Simon Willison,Datasette作者、Django联合作者,长期追踪LLM工具、开源生态、prompt injection和AI Agent安全问题。 @_akhaliq,AK,AI论文信息流账号,机器学习背景,主要快速转发新论文、新模型、新项目,适合跟踪前沿动态。 @ID_AA_Carmack,John Carmack,id Software创始人、前Oculus CTO,现在在Keen Technologies做AGI,典型硬核工程派。 @gwern,Gwern Branwen,独立研究者和长文作者,写AI scaling、心理学、统计学、理性主义和长期主义相关内容。 @goodside,Riley Goodside,最早出圈的prompt engineer之一,曾在Scale AI和Google DeepMind,常发模型行为、prompt技巧和AI产品边界测试。 @drfeifei,李飞飞,Stanford教授、World Labs联合创始人兼CEO,ImageNet关键推动者之一,长期做计算机视觉、空间智能和human-centered AI。 @demishassabis,Demis Hassabis,Google DeepMind联合创始人兼CEO,AlphaGo、AlphaFold背后的核心人物之一,2024年诺贝尔化学奖得主。 中文: @dotey,宝玉,中文AI圈非常重要的信息源,长期翻译和整理LLM、Prompt Engineering、Context Engineering、AI工程实践内容,也会分享很多一手产品和技术判断。 @op7418,歸藏,AIGC周刊主理人,关注AI、LLM、AI图像视频和设计,适合追踪新工具、新模型和AI创作玩法。 @xiaohu,小互,中文AI新闻和工具资讯号,主打全球前沿科技、AI动态,也做小互AI日报社群。 @WaytoAGI,通往AGI之路,中文AI知识库和社区型账号,适合系统性补AI资料、工具、教程和行业信息。 @Khazix0918,数字生命卡兹克,AI自媒体和热点监控型账号,做了AIHOT这类AI热点监控网站,适合看中文AI圈正在炒什么、什么值得跟。 @Gorden_Sun,Gorden Sun,稳定更新AI资讯日报,适合当每日AI新闻索引看。 @FinanceYF5,Will,偏AI资讯和行业数据整理,会做AI网站流量、产品数据、行业观察,适合看数据型信息差。 @vista8,向阳乔木,关注LLM、Prompt、效率工具和AI产品落地,内容偏实用观察和产品判断。 @shao__meng,meng shao,关注上下文工程、AI智能体、企业AI落地和AI培训,也经常整理中文AI领域账号合集。 @oran_ge,橘子,前MiniMax AI工具产品负责人, @hanqing_me,汗青,AI Talk创始人,重点在AI短视频、AI数字人、AI艺术和内容创作方向。 @jesselaunz,遁一子,关注AI资讯、AI实际应用和Prompt探索,偏实践派,适合看普通人怎么把AI用起来。 @thinkingjimmy,JimmyWong, @xicilion,响马,西祠胡同创始人、老程序员,分享LLM实战、工程判断和开发者视角,对AI工具链的理解比较硬。 @AI_Jasonyu,鱼总聊AI,关注AI、出海、创业、独立开发和副业方向,经常整理AI博主、工具和产品机会。 有哪些我漏掉了?欢迎补充
显示更多
很多人在谈论 AI 时,常把人工智能、机器学习、深度学习和生成式人工智能混为一谈。 理解它们的关系,关键在于理清这层嵌套的包含逻辑: 1. 人工智能是核心目标,旨在通过计算机模拟人类的学习、推理和推理能力。 2. 机器学习是实现手段,通过算法让系统从数据中学习。 3. 深度学习是更进阶的子集,利用更复杂的架构处理更深层的信息。 4. 如今火爆的生成式人工智能、大语言模型和聊天机器人,本质上都是建立在这些基础模型之上的应用。 技术的采用曲线正在发生剧变。过去 AI 总是显得“遥不可及”,似乎永远处于 5 到 10 年后的预期中;但随着基础模型的出现,技术正从缓慢的研究阶段直接跃迁到大规模爆发阶段。 看清技术层级,才能在这一波爆发中精准捕捉价值。
显示更多