在全球用户闲置的 GPU 上运行语言模型。由社区硬件驱动,价格实惠、人人可用的推理服务。
使用 Google 或 GitHub 几秒钟即可注册。
Neurogrid 把拥有闲置 GPU 的人,与需要实惠 AI 推理的人连接在一起。
GPU 拥有者把闲置硬件接入网络,并从运行在自己机器上的任务中获得收益。AI 用户无需拥有昂贵的基础设施,即可使用分布式算力。
市场就是连接两端的经济纽带。
任何支持填写 endpoint 和 API key 的应用,都可以接入 Neurogrid。以下为示意示例。
目前由社区硬件提供服务的开源模型,按实验室分类。
传统 AI 基础设施把海量算力集中在巨型数据中心里。这类设施建设昂贵、运营昂贵,同时还让大量消费级硬件长期闲置。
Neurogrid 换了一种思路:利用已经存在的硬件。
把你闲置的 GPU 接入 Neurogrid。
市场将兼容的任务分配给可用的硬件。
AI 任务运行在分布式的社区基础设施上。
GPU 提供者从自己硬件贡献的算力中获得收益。
大多数 GPU 一天中有很长时间处于闲置状态。贡献这部分空闲算力,从原本需要集中式基础设施才能完成的任务中获得收益。
无需拥有生产算力的基础设施,也能获得你需要的算力。通过市场提交任务,只为实际运行的部分付费。
把硬件交给一个网络是个认真的决定。以下是大家真正关心的问题,我们不绕弯子地回答。