首页 > 资讯 > 企业要闻

AIBOX-1684X:把大语言模型“装”进小盒子

人阅读 2024-04-22 11:40:38

AIBOX-1684X支持主流大模型私有化部署,算力高达32TOPS,同时也支持CNN、RNN、LSTM等传统网络架构,支持TensorF NNX和Darknet等深度学习架构,并支持自定义算子开发。支持Docker容器化管理技术。适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全隐私保护等场景。

全面的人工智能私有化部署

语言大模型

支持Transformer架构下超大规模参数模型,如LLaMa2、ChatGLM、Qwen等大型语言模型的私有化部署。

视觉大模型

支持ViT、Grounding DIN0、SAM等视觉大模型的私有化部署。

AI绘画

支持AIGC领域的Stable DiffusionV1.5图像生成模型的私有化部署。

传统网络架构

支持CNN、RNN、LSTM等传统网络架构。

深度学习框架

支持多种深度学习框架,包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发。

Docker容器化

支持Docker容器化管理技术,可方便的进行镜像部署。

32TOPS超高算力AI处理器

搭载SOPHON算能AI处理器BM1684X,拥有八核ARM Cortex-A53,最高主频2.3GHz,采用12nm工艺制程;拥有高达32Tops(INT8)算力,或16TFLOPS(FP16/BF16)算力、或2Tops(FP32)高精度算力,支持主流编程框架,可广泛应用于云端及边缘应用的人工智能推理。

多路视频AI处理性能

最高支持32路1080P H.264/H.265的视频解码,32路1080P高清视频全流程处理(解码 AI分析),满足视频流人脸检测、车牌识别等各类AI应用场景的需求。

强大的网络通讯能力

支持双路1000Mbps以太网 ,高速稳定的网络通讯方式,满足不同应用场景需求。

高效散热,工艺精美

配置工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅设计,保证外部空气流通,高效散热,保障在高温运行状态下的运算性能和稳定性。顶盖采用多孔六边形设计, 简洁美观。整机小巧精致,运行稳定,满足各种工业级的应用需求。

国产化定制,产品自主可控

可实现100%国产化硬件方案定制,技术完全自主可控,工业级产品质量,稳定的供货周期,满足各种行业的需求。

完善的开发资料

提供配套的源代码、教程、技术资料和开发工具,让开发变得更加简单方便。

广泛的应用场景

广泛适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景。

LOT物联网

iot产品 iot技术 iot应用 iot工程

Powered By LOT物联网  闽ICP备2024036174号-1

联系邮箱:support1012@126.com