湖北日报讯（记者戴文辉、通讯员张馨月）写公文、答政策、理信访……越来越多的“AI公务员”进入政务服务领域，在提升办事效率的同时，也引发外界担忧：TA们是不是足够安全？
近日，在湖北省数据局指导下，由湖北大数据集团旗下楚天云公司开发的楚天人工智能公共服务平台投入使用。首批12个AI项目已在信访、环保、市监等厅局“上岗”。与以往不同的是，这些AI应用，都戴上了三道“紧箍咒”，确保合规、安全。
楚天人工智能公共服务平台使用界面。（受访单位供图）
第一道“紧箍咒”，叫数据安全。这个平台上线20余个国内主流开源模型，涵盖对话、推理、视觉、代码等功能，全部驻场本地政务云运行。写公文可选“文笔型”模型，数据分析可调“逻辑型”专家，但所有交互都跑在政务内网的安全边界内。
同时，各单位几十年积累的政策文件、办事指南、历史案例，被沉淀为可隔离、可控制权限的RAG知识库，能够几秒内就能给出准确答复，还能附上具体政策条款，相当于给AI配了一本“加密版业务百科全书”，内部数据不“串门”，敏感信息不“裸奔”。
第二道“紧箍咒”，是内容安全。AI进入政务场景，最怕“放飞自我”——给出不合规的答复，甚至被恶意诱导。
平台在入口处设置了三道安检线：关键词拦截、自定义敏感词过滤、实时告警。任何不合规的输入输出，都会被当场拦下。
更关键的是，每一次问答、每一个回复，全程留痕。谁问的、问了什么、AI怎么答的，一笔笔都记得清清楚楚。“就像公务员上班要戴执法记录仪，AI输出的所有内容，都在组织监督之下。”楚天云公司相关负责人形容道。
平台模型广场。（受访单位供图）
第三道“紧箍咒”，是行为安全。
AI不能只会聊天，还得能干事——查数据库、抓网页、调地图服务等。这些“动手”能力，恰恰是安全风险最高的地方。楚天人工智能公共服务平台建立标准化工具接入体系，AI在安全范围内自主调用工具，完成多样化任务，向‘可调用、能协同、会执行’升级。
此外，平台引入Token计量系统，精确统计各部门、各应用的资源消耗，并提供API调用次数、配额使用、趋势变化等分析。“相当于给AI装了‘智能电表’，用多用少明明白白，便于优化资源配置。”上述负责人表示股票配资公司开户网站，该平台夯实了安全底座，将进一步推动AI政务服务的规模化推广和精细化运营。
恒盛智投app提示：文章来自网络，不代表本站观点。
相关文章
热点资讯