实践哥 Li (@MinLiBuilds) “果蝇大脑和我们今天用的主流 LLM，Claude、gpt，image2.5，结构上有巨大区别。 人类主” — TopicDigg
实践哥 Li
@MinLiBuilds
加入 July 2023
0 正在关注 0 粉丝
果蝇大脑和我们今天用的主流 LLM，Claude、gpt，image2.5，结构上有巨大区别。
人类主流玩的网络，在训练前，都是固定好了结构，Transfomer，MoE，Dense 都固定。再通过数据调整权重。
🔥果蝇大脑很有意思，网络连接极其复杂。亿万年的进化，让它多模态、低功耗、支持 flash 模式，几乎不支持 thinking 模式。
只有16.7 万个神经元，粗暴类比成 AI 模型，它大概是一个 0.026B 级别的超稀疏连接网络。
这种网络如果让人设计，一根线一根线设计，完全不可能。
现在都有人拿它来玩游戏、开车、刷视频、解魔方。
会不会里面还藏着很多类似 ResNet这种神作？ 🤔
显示更多
