交通行业的 AI 应用场景目前主要涵盖交通公共服务体验优化、汽车等交通工具的智能化升级和物流的智能化转型。大部分应用场景仍在项目实验阶段。此阶段需要有效地平衡项目需求、成本和开发效率。
在项目预演阶段中,通常小规模算力就可以满足需求。此阶段主要是对模型的可行性、架构设计的合理性以及算法的有效性进行初步验证,此时模型规模相对较小,参数数量和复杂度都处于较低水平。
例如,在构建一个简单的文本分类预演模型时,可能只需要训练几万到几十万的参数,小规模算力足以支持模型在较短时间内完成训练和评估。等到模型进入正式训练和优化阶段,才会对算力有更高的要求。
我们今天就几种主要的 AI 场景,谈谈对于处在项目预演阶段的团队,值得尝试的一些高效又经济的本地化硬件部署方案。
1
目前在开发的智慧交通大模型面向的公共服务体验场景非常多元,例如:
报告生成类:很多团队在本地化部署大语言模型,主要使用 AI 生成交通违规报告,加快交通事故处理效率;
咨询服务类:部分团队借助大语言模型 ,正在基于现有的交通标准规范、学科教材、交通知识等材料搭建用于交通知识问答的大模型,希望为出行者、企业等提供便捷精准的交通咨询服务;
业务办理类:有些团队利用现有的路网数据,训练用于交通情况预测、智能咨询和 AI 辅助办理业务的大模型;
资源调度类:还有团队在考虑利用 DeepSeek 的深度推理能力,对历史流量、天气、事件等多源数据进行融合分析,开发出大模型能够动态地优化信号灯控制策略,提升路口通行效率和交通资源利用率。
这其中,报告生成类任务主要基于 DeepSeek 等模型进行部署,通常为长文本生成场景,咨询服务类则多为短文本生成,模型以 DeepSeek R1 70B、32B、通义千问 QWQ 32B 为主,主要采用的推理精度为 FP16。在项目预演阶段,采用搭载 NVIDIA RTX™ GPU 的平台可以在1周内完成模型部署并启动研究工作。
NVIDIA RTX™ GPU 属于 NVIDIA 企业级显卡,兼具有图形处理和 AI 能力,安培架构被称为“卡皇”的 NVIDIA RTX™ A6000 就是属于该系列的显卡。目前 NVIDIA RTX™ A6000 已停产,性能更强的 NVIDIA Ada Lovelace 架构显卡为 NVIDIA RTX™ 5000 Ada (32GB)、NVIDIA RTX™ 5880 Ada (48GB)。
*测试数据来源:赞奇科技
*详细测试数据可扫描底部二维码登记获取
2
车企正在布局开发更多的 AI 场景,包括 AI 工厂机器人、车内 AI Agent 应用等。
工厂 AI 机器人
AI 机器人逐步开始在工厂流水线的一些特定环节中“打工”,逐步尝试着未来能降本增效。AI 机器人场景对硬件设备的 AI 与图形处理能力均有要求。目前,机器人仿真测试任务主流基于 NVIDIA Isaac Sim™ 平台,同时采用的是NVIDIA Isaac™ Lab 进行强化学习,还需要通过 DeepSeek 等大语言模型的推理能力来实现语音交互。此类场景中,NVIDIA RTX GPU 可以同时满足 AI 和图形需求,我们以搭载 NVIDIA RTX 5000 Ada 的计算平台为例,来看看一些开发场景中的 GPU 消耗、可以适配的部署方案及其预期效果。
*测试数据来源:赞奇科技
*详细测试数据可扫描底部二维码登记获取
车内 AI Agent
车内的 Agent 应用已经在如火如荼地开发进程中,场景不限于出行伴侣、旅行专家、用车助手等。很多开发团队尝试借助 DeepSeek、QWQ 的深度推理能力,实现多情感、多模态的超拟人交互。随着 Manus AI Agent 的出现,对于 Agent 的市场关注度和开发热度也有所提升。
在项目前期开发阶段,AI Agent 会以相对简单的场景来实现快速落地,开发团队用于模型训练和推理测试的规模并不是非常庞大的,但依然需要较强的算力来支持不同的算法模型。NVIDIA RTX 5880 Ada 无论在计算能力还是图形能力上,都在 NVIDIA RTX 系列 GPU 中首屈一指。NVIDIA RTX 5880 Ada 单卡能力超强,这能够为后续机器的扩展留有较大的空间,毕竟随着 AI Agent 功能的完善,即使是项目前期预演阶段,算力需求也会在增长。
由于 AI Agent 具体的应用场景、功能需求和数据规模差异比较大,我们需要根据具体情况来评估所需的算力规模,并且不断通过测试来匹配开发效果预期。如果需要详细评估与提前测试,可扫描下方二维码登记,后续会有技术人员来跟进。
上一篇: 2024年国内B2B交易平台分析
下一篇:没有了
违法和不良信息举报投诉电话:0377-62377728 举报邮箱:fbypt@ex12580.com