微软开发工具以防Ai聊天机器人被教坏
2024-03-29 03:02:15
来源：
微软正努力防止人们欺骗Ai聊天机器人做出奇怪的事情。微软公司周四在一篇博客文章中表示，Azure AI Studio正在内置新的安全功能，允许开发人员使用自己的数据构建定制的人工智能助手。这些工具包括“提示词防护盾”，旨在检测和阻止企图使人工智能模型以意想不到的方式运行的“提示词攻击”或“越狱”。微软还解决了“间接提示词输入”问题，即黑客将恶意指令插入模型所训练的数据中，并诱使其执行诸如窃取用户信息或劫持系统等未经授权的操作。微软负责人工智能的首席产品官Sarah Bird说，这种攻击是“一种独特的挑战和威胁”。她说，新的防御措施旨在发现可疑输入并实时阻止它们。微软还推出了一项新功能，当Ai模型编造东西或产生错误反应时，它会提醒用户。
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
新国九条强化中介机构责任 券商积极响应
扩大软硬钱包受理范围 数字人民币优化支付
- 央行：切实维护币值稳定和金融稳定
- 证监会系统离职人员入股拟上市企业禁止期从3年拉长至10年
- A股3976家公司已披露2023年年报，485家公司净利润超10亿元
- 4月27日硫酸铵产业链情报
- 国务院：推动头部证券公司做强做优
- 4月27日钛白粉产业链情报
- 银河证券：AIGC技术不断进步 游戏行业有望受益
- 莱特光电：OLED材料龙头一季度“大翻身”，分红回购增持齐发力，OLED渗透率提升，机构看好公司发展前景
- 热门旅游股80后董事长遭留置！国际无人机产业博览会今日召开，这一省份无人机企业突破1万家，机构看好15股增长潜力
需求回暖成本下降 轮胎企业去年业绩整体向好
人形机器人：奔赴一场具身智能的蝶变
报喜鸟获开源证券买入评级，2024Q1毛利率进一步提升
蔚来李斌：跟随者做不成高端，高端品牌要有原创性
