介绍比Jev快50倍,在你设备上跑的laya-mlx! 只在你的设备上占用最高1G内存 Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统 我将其移植到MLX,并且做了一些性能优化! 视频
原帖发布于
介绍比Jev快50倍,在你设备上跑的laya-mlx!
只在你的设备上占用最高1G内存
Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统
我将其移植到MLX,并且做了一些性能优化!
视频中就是这个模型在我的本地M3Max上玩贪吃蛇
这个模型能够以每秒决策60次的速度玩贪吃蛇!
https://github.com/mizorewww/laya-mlx
只在你的设备上占用最高1G内存
Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统
我将其移植到MLX,并且做了一些性能优化!
视频中就是这个模型在我的本地M3Max上玩贪吃蛇
这个模型能够以每秒决策60次的速度玩贪吃蛇!
https://github.com/mizorewww/laya-mlx