一些和AI相关的讨论
-
ejsoon
- 圈圈精英

- 帖子: 4680
- 注册时间: 2022年 11月 18日 17:36
- 为圈友点赞: 172 次
- 被圈友点赞: 201 次
-
联系:
帖子
由 ejsoon »
這個「電子助理」最好能代替我上班,不讓領導知道我的工作都是我的蝦完成的。
是否我只需要上班摸魚打遊戲,然後測試下我的蝦搞的結果就可以了?
@BobMaster
-
BobMaster
- 锋芒初露

- 帖子: 1422
- 注册时间: 2020年 12月 7日 08:05
- 来自: 神秘的东方
- 我的状态: 🎯
- 为圈友点赞: 505 次
- 被圈友点赞: 315 次
-
联系:
帖子
由 BobMaster »
目前实际体验和能实现的效果比较差,一方面比较吃模型能力,另一方面终端设备可能存在相应的风控和适配。
比如当前让ai去操作浏览器啥的,依靠视觉和操作js,那精确度一言难尽。
网图:
人生如音乐,欢乐且自由
-
ejsoon
- 圈圈精英

- 帖子: 4680
- 注册时间: 2022年 11月 18日 17:36
- 为圈友点赞: 172 次
- 被圈友点赞: 201 次
-
联系:
帖子
由 ejsoon »
現在好像有本地AI可以用了吧?如果本地AI也像現在的gemini這麼好用,到時一切都是免費自動的,甚至不需要聯網。我估計本地不聯網的AI已經不遠了,直接就是一個機器人的大腦。機器人還會自己維護,維修的原材料也是機器人自己弄,所有糾偏糾錯都由它自己來…
-
BobMaster
- 锋芒初露

- 帖子: 1422
- 注册时间: 2020年 12月 7日 08:05
- 来自: 神秘的东方
- 我的状态: 🎯
- 为圈友点赞: 505 次
- 被圈友点赞: 315 次
-
联系:
帖子
由 BobMaster »
目前还没有端侧就能比较普适的模型,本地部署当然隐私啥的友好,慢不说,还比较吃算力(我本地有一台64G DDR5 内存的迷你主机,用AMD的核显配ROCM跑unsloth量化的Qwen3.5-27B-Q4_K_M.gguf,token输出速度太慢了7~8t/s)。
现在供应链紧张,硬盘、内存、显卡都涨价
。
参数量小的模型要么工具都不会调用,效果比较一般,可能对某些特定领域比较适用。
龙虾非常的吃token,上下文增长了之后,对本地设备性能的要求也更高了。
人生如音乐,欢乐且自由
正浏览此版面之用户: Ahrefs [Bot], ejsoon 和 0 访客