与「qwen36」相关的搜索结果

想买Mac运行大模型? 这是劝退贴 其实估算方法很简单, 现在买 MacStudio 哪怕运行 Qwen3.6-27B 4bit 量化版本, 然后开 DFlash 使用Qwen的内置投机解码, 也就飙到 65token/s. 而现在普遍大模型都能跑到 40 token/s. 如果专门买 MacStudio M3 Ultra 96G 运行大模型, 如果把设备售价 (32999) 换算成使用API, 以 GLM-5.2 为例, 每百万token 28块, 一台 MacStudio 的价格大概能买到 32999/28 = 1178M token. 而为了输出这些token, 买到的 MacStudio 运行 Qwen3.6-27B 要持续运行 209天. 也就是说回本周期至少是200天不间断运行. 然后运行模型才是纯赚. 这还是没算电费和不直接买API而是买套餐的情况.而且, 最重要的是这还是在运行一个只有27B的小模型. 如果真的买512G的 MacStudio (108749, 而且好像已经断货了), 然后运行量化版本的 GLM-5.2, 速度就会跌到只有 17 token/s, 回本周期大概在 7 年左右... 对于现在1.5个月模型就发新版本的情况下, 普通用户自用是绝对不划算的. 所以大部分用户买 coding plan 会更划算, 如果像我一样要测新模型, 直接租卡也会比直接买划算很多. 当然, 如果你本身就有Mac或者显卡, 那么空闲的时候(比如睡觉的时候)让它跑大模型运行任务, 反而是划算的. #本地大模型# #mac# #qwen36# #glm52#

用破甲大模型理解需求并指导生图模型，这套链路本地跑通了 起因是生图提示词写起来太费劲，而没破甲的商业模型遇到无道德底线的内容根本不给输出。直接换成两套本地无审核模型互相配合： · 意图理解与提示词润色：Qwen3.8 27B Uncensored HauhauCS Aggressive（25.9GB），走 llama.cpp / CUDA 推理 · 图像生成底模：Qwen-Image-2.1-Turbo（17.3GB），走 ComfyUI / ROCm 推理 中间连接没单独写脚本，直接套用了 SillyTavern（酒馆）。除了能顺利把两边接通，主要是看重它自带的人物卡、角色性格与世界观设计机制 目前正在研究基于这套架构开放连续的故事情节玩法，还在调试中 #AI# #开源工具# #ComfyUI# #大模型#

目前本地部署的 AI 服务栈基本凑齐了，链路如下： 🎙️ ASR：QwenASR + Whisper 🗣️ TTS：IndexTTS + BreezyTTS 🎵 音乐：Yue2 + MiniMax Music 🖼️ 图像：QwenImage 2.1 🧠 LLM：Qwen3.8 27B 🎬 视频：MiniMax H3 + LTX 2.5 从语音识别、语音合成、音乐、图像、大模型到视频生成，本地自建服务一条龙

家人们，Hugging Face又整活了！ 最近有人在上面发了个几乎没审查的本地模型：DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED（heretic版）。 简单说，就是拿Qwen3.5 9B当底，用DeepSeek-V4-Pro的推理数据蒸馏出来的，然后再用Heretic把拒答行为砍得差不多了——官方测的拒答从100/100直接掉到3/100。 量化后大概5-6G，笔记本或者普通电脑都能轻松跑。开源、本地部署，不用再交订阅费，也不用被Claude、GPT、Gemini那些闭源模型一句话一个安全准则卡住。 想自由问问题、写点更直白的内容、或者生成一些少儿不宜的提示词，都可以自己试试。省心还省钱。 链接： 本地跑起来，想怎么玩就怎么玩😎

把家里的破烂设备用起来。 smolmaxxing：让老旧电视盒子和旧iPad也能在本地运行AI大模型 基于llama.cpp，专门针对老旧芯片重写了底层计算代码，删掉了模型里平时用不到的生僻词汇以节省空间，还让设备像翻书一样，把暂时用不到的模型数据存在硬盘里，需要时再快速读取，并提前预判加载下一步要用的数据。 改造完成后，两款只有1G可用内存的老设备都成功跑起了AI对话。第三代小米电视盒子S运行2B规模的Qwen3.5时，每秒能生成7.7个token，甚至能以每秒5.1个token的速度运行16B规模的Ling-mini-2.0。2013年的第一代iPad Air在运行1.7B规模的Bonsai模型时，每秒生成速度达到了24到26个token，同样也能跑起16B的大模型。 Github：

二次元绅士的春天来了。 这可能是Qwen 2.1 image目前最好的动漫NSFW lora。 作者足足手选了5万张素材用来训练， LoRA本体0.4GB，但要配一个16GB的去拒答版Qwen3-VL文本编码器一起用， 提示词要用fusal style.开头，按主体、姿势、光照分块写，强度从0.7开始调。

🚨 قنبلة نووية في عالم الذكاء الاصطناعي: إسقاط كافة القيود وسيرفرات Hugging Face تنهار تحت الضغط! 🤯🔥 النموذج الهجين المرعب DeepSeek-V4-Pro + Qwen3.5 9B ينسخ قدرات الاستدلال العالية ويتخلص من كافة القيود الأخلاقية، مسبباً عطل المنصة من كثافة التنزيلات فور إطلاقه! 🔥 مواصفات وإمكانيات صدمت مجتمع المطورين: • سحق معدل الرفض: في اختبار واقعي لـ 100 برومبت معقد؛ النسخة الأصلية رفضت 100%، بينما رفضت هذه النسخة 3 برومبتات فقط! • تقطير استدلال خارق: تم تدريبه عبر 250 ألف نقطة بيانات جودة عالية من DeepSeek-V4-Pro، ليتفوق في البرمجة والرياضيات المعقدة. • إزالة قيود بلا خسران للذكاء: يعتمد تقنية ARA لطمس القيود بالكامل دون فقدان نقطة ذكاء واحدة من منطق النموذج! • يعمل على أي جهاز (5.6GB فقط): بصيغة Q4_K_M GGUF بحجم خفيف جداً، يتيح لك تشغيله على الكمبيوتر العادي أو كروت الشاشة المدمجة في ثوانٍ. ⚡ مفتوح المصدر بالكامل (Apache 2.0): فرصة مثالية لامتلاك نموذج محلي يطيع أوامرك بذكاء فائق وبدون أدنى رقابة أو اشتراكات! 📌 احفظ التغريدة بمفضلتك وابدأ بتجربته فوراً 🔖👇 (رابط النموذج التجريبي على Hugging Face في أول تعليق)

我终于知道 Qwen4-27B 和 Qwen4-Next-Flash 迟迟不推出来的原因了。 昨天阿里只放了个限时两周的 Qwen4-Max API，大家苦等的开源权重连个影子都没有。直到我看到 Hermes 团队在 Hugging Face 挂出来的这张模型卡，瞬间懂了： 他们居然直接拿阿里开源的 Qwen3.8-27B 当底座，喂了 5300 万 token，模型卡第一行就贴脸开大：在这套中国模型上强化西方价值观。 这波操作我真服气了： 硅谷大厂全闭源，美国想训个西方价值观模型，居然不得不拿中国开源模型当底座。这哪叫消除偏见，分明就是把杭州的大脑换头成了旧金山的嘴。 社区做的无审查微调早就不稀奇了，但高调植入西方价值观贴脸赚流量，这简直把用心做开源的 Qwen 团队架火上烤。 真把开源搞没了，Hermes 团队以后就对着 OpenAI 和 Claude 的闭源 API 搞价值观换头吧。

You heard it here first. Once Jensen falls Hugging Face shuts down, and after that nobody's downloading open models anymore. The people at the top only care about money and power. Our freedom won't survive that. So pull the open models you care about off Hugging Face now, while you still can. Nobody knows what the next few years look like. Grab a mix of sizes: • Ornith 9B • Qwen3.8-27B • DeepSeek-V4-Flash • GLM-5.3 Save each one as GGUF Q4. Add the MLX 4-bit for Apple Silicon when there is one, and NVFP4 if you've got Blackwell hardware. 4-bit is the sweet spot. You keep the quality and don't burn storage. Can't run the biggest ones yet? Doesn't mean you won't be able to tomorrow. Stash them somewhere safe. One day you'll be really glad you did.

本地无审查大模型的地下军火库今天彻底齐活了 从 8GB 入门卡到 24GB 满血工作站，Hugging Face 三大破甲顶流（Huihui、HauhauCS、DavidAU）把 Qwen 家族最凶残的 5 款无甲神作全放出来了。不仅切掉了烦人的道德说教锁，还完整保留了多模态视觉（Vision）与 MTP 多 Token 极速预测。 直接按你手头的显卡显存对号入座抄作业： 01 全能六边形战神：Huihui Qwen3.8 27B Abliterated 目前本地综合实力最强的破甲王牌之一，逻辑智商在线，原生保留视觉识图能力。 · 16GB 显存：直接冲 UD-IQ4_XS 或 IQ4（约占 14.4GB，黄金甜点档） · 24GB 显存：直接上 Q4_K_M 或 Q5 满血稳跑 · 极简启动：ollama run huihui_ai/Qwen3.8-abliterated仓库地址： 02 暴力狂暴破甲：HauhauCS Qwen3.8 27B Uncensored Aggressive 如果你嫌常规消融不够狠，这款走的是极其激进的深度破甲路线，几乎零拒答，同样带 MTP 加速与多模态视觉。 · 16GB 显存：选 IQ4_XS（约占 15.7GB，刚好卡满显存极限） · 24GB 显存：直接上 Q4 / Q5 仓库地址： 03 极速 MoE 闪电炮：Huihui Qwen3.6 35B-A3B Abliterated MTP 35B 的大身板，但底层是 MoE 混合专家架构，每次推理仅激活约 3B 参数，吐字速度快到飞起，支持视觉。 · 12–16GB 显存：跑 IQ3 / IQ4 配合专家卸载（建议系统内存 32GB+ 兜底） · 24GB 显存：直接全塞进显存跑 Q4，丝滑起飞 仓库地址： 04 激进破甲 + 极速吞吐：HauhauCS Qwen3.6 35B-A3B Aggressive 把 HauhauCS 最凶狠的激进去审查手法塞进了 35B-A3B 的 MoE 架构里，既要完全听话不拒答，又要极致生成速度的兄弟选它。 · 16GB 显存：IQ3 / IQ4 + 专家卸载 · 24GB 显存：Q4_K_M（约 21GB）完美吃满单卡上限 仓库地址： 05 8G 显存小钢炮：Qwen3.5 9B Defiant / Heretic 系列 DavidAU 操刀的 NEO-IMATRIX 极限调校版，搭载 Heretic 消融算法与 MTP，小体积榨出恐怖表现，轻量本首选。 · 8GB 显存：毫无压力轻松秒开 · 12–16GB 显存：显存极其宽裕，剩下的空间直接把上下文长度拉爆 仓库地址： 省流选型指南： · 追求极致智商与多模态全能：无脑冲 01 或 02（27B Dense） · 追求秒级吐字速度与高吞吐：选 03 或 04（35B MoE） · 8G 显卡或轻薄本长文本：直接锁死 05（9B Heretic） 本地跑大模型最爽的就是彻底摆脱云端审核与封号焦虑，搞红队测试、角色扮演和私有 Agent 的兄弟建议先把这份军火库马住备用。 你现在主力机的显卡显存是多少 G？平时更喜欢跑满血 Dense 模型还是飞快的 MoE 架构？ #AI# #大模型# #Qwen# #开源# #Ollama# #本地部署#