阿里等规模大十倍的模型

Rina7RS@kelenso

性能：在HuggingFace的OpenLLM排行榜评比测试中，Granite 30 8B Instruct模型的整体性能，平均领先Meta与Mistral类似大小的开源模型的最佳性能。在IBM 的AttaQ 安全评比测试中，上述模型在所有受测的安全维度里，表现均优于Meta与Mistral的模型[4]。
在这次发布里，还有专家混合架构（Mixture of Experts , MOE）Granite 30 1B A400M与Granite 30 3B A800M，这是一种专业调度技术，能根据输入内容动态选择最佳专家模型进行推理，提升效率并降低运算资源需求，特别适用于对回应速度有高要求的低延迟应用程式，兼顾性能与推论成本的完美平衡。
IBM还发布了预训练 Granite时间序列模型的更新版本。这些新模型基于多三倍的数据量训练，具备更高的建模弹性、支持外部变量与滚动预测[5]。在三个主要时间序列模型评比中，Granite 的性能超越了Google。
成本：在特定任务上启用小型 Granite模型，搭配企业自有数据，加上使 保加利亚 whatsapp 号码数据 用 IBM 与 RedHat 在今（2024）年五月推出的革命性对齐技术InstructLab，协助企业透过高效、低成本的方式训练专属模型。 （根据数个早期概念验证专案进行的成本分析结果显示，成本减少约3至23倍[6]）
透明度：Granite 30技术报告与负责任使用指南，均详细描述了训练这些模型的数据集、所采用的数据过滤、清洗与处理步骤，并详列它们在主要学术与行业评比测试里的性能结果。
法律保障：IBM 为watsonxai 平台上的所有Granite 模型提供智慧财产权赔偿保证，强化企业客户采用此模型的信心。
安全性：IBM 推出新的 Granite Guardian模型系列，应用开发人员可以透过检查使用者提示与LLM回应来建置「安全护栏」，提前发现各种风险。 Granite Guardian 30 8B与2B模型，提供了目前市面上最完整的风险与危险检测功能；也可与任何其他开放或专用的AI模型共同使用，强化AI安全保护机制。