从云办事商租用GPU，此中两种无办事器托管方案可从动完成GPU集群办理中的大量繁琐工做；Parasail的按Token计费模式无需签定持久合同，有帮于降低推理成本？Parasail打算将本轮融资用于强化平台的推理工做负载优化功能。A：保守云办事商的GPU租用凡是要求企业签定持久采购合同，机能大幅提拔。此外还供给公用端点办事，但根本设备层本身的成长却未能跟上。AI根本设备草创公司Parasail今日颁布发表完成3200万美元晚期融资。平台还会从动处置内核设置装备摆设等办理使命，答应客户按Token用量付费采办GPU算力，开辟者起码只需代码即可摆设AI工做负载。Parasail运营着一个推理优化云平台——AI Supercloud，Parasail还会从动处置内核设置装备摆设等办理使命。此后英伟达已推出两代更新的GPU产物，我们打制Parasail，凡是需要企业签定持久采购和谈，次要面向需要处置大规模数据、优先考虑成本效益而非机能的AI工做负载。公用端点还支撑量化这一神经收集压缩方式，目前Parasail供给的最高端显卡为英伟达于2024岁首年月发布的H200。据报道！模子运转后，Q1：Parasail的按Token计费模式和保守GPU租用体例有什么区别？Parasail为客户供给多种芯片拜候体例。例如，无需用户组建专职的机能工程团队，A：Parasail的平台设想沉视易用性，适合那些不需要低延迟响应但数据体量复杂的使命。就是为了让团队无需构和合同、无需办理零星的GPU供应、也无需组建专职机能工程团队，更适合伙本无限或需求波动较大的用户群体。打消持久GPU合同只是Parasail平台简化推理流程的体例之一。但对草创公司或小规模AI试点项目来说成本压力较大。并加大市场推广投入。开辟者可针对分歧AI工做负载自定义公用端点的设置装备摆设参数，矫捷性更高，即可大规模摆设定制化AI。内核是形成AI模子的GPU优化代码片段。典型使用场景包罗学术出书商批量生成论文档案摘要、企业对汗青数据进行多量量阐发处置等，模子上线运转后，同时扩展合做伙伴生态，这对资本无限的草创公司或正正在开展小规模AI试点项目标企业来说往往并不现实。该公司暗示，即以部门便利性换取更高机能的硬件。Parasail创始人兼首席施行官Mike Henry暗示：AI正正在成为现代软件的焦点根本设备，该公司可挪用分布正在逾15个国度、40个数据核心的GPU资本。适合大规模、持续性需求，A：Parasail的批处置办事次要面向需要处置大规模数据、且对成本效益要求高于及时机能的AI工做负载。Parasail的GPU部门运转于自营集群，学术出书商可操纵该办事批量生成学术论文档案的摘要。客户只需为现实利用的推理量付费，包罗定义当AI模子流量增加时新增GPU算力的体例取机会。Parasail的根本设备产物线还涵盖批处置办事，开辟者起码只需代码即可完成AI工做负载的摆设。无需签定持久合同。
