AI系统的一个关键漏洞就是提示词注入攻击，即攻击者对一个模型进行操纵，使其泄露敏感数据或改变决策逻辑。最近的银行聊天机器人测试，发现了一个同样令人担忧的风险：权限升级。测试人员冒充系统管理员，批准了未经授权的贷款并修改了后台数据。
早在1962年的科幻动画片《杰森一家》里，就有了蓝色铁皮做的家政机器人“罗西”，她精通28国语言，24小时待命无需休息，没有五险一金，既会做高难度的“仰望星空派”，还能阻止熊孩子往电路板里塞橡皮泥。
对于规格化的新闻资讯（例如灾害、体育、财报等动态信息）可以做到精确、迅捷的生成和发布，时间一般不超过30秒，且差错率远低于人工写作。这是机器处理的强项。
过去互联网技术尚未发明，谁也看不见谁，大家过好自己的日子就可以。现在人人都有一部手机，彼此都看得见，技术塑造了这样一种结构，让手机变成冲锋枪，人们拿着它在互联网上混战。
一些AI软件在生成图文、视频的过程中东拼西凑、以讹传讹乃至制假造假，造成诸多风险；有高校学者竟用AI造假的图片、论文投稿，引发一片唏嘘；AI换脸一度以假乱真，令人心生忧虑……
人类是宇宙间最弱的弱者，速度不快，耐力不强，力量不大，视力不远，咬合力不大，等等，唯一能够让我们生存并居于食物链顶端的，是人的智力，如果一旦出现一个远超人类智力的AI，又形成了自我意识，而且带有人类一样的无明和情绪，带有人类一样的我执和法执，那对人类而言绝对是灾难性的后果，而在这种灾难面前，弱小的人类无可反抗。
当今时代我们写作、作画、作曲，本质上也是为了表达内心真实的情感......但这样看待作品的角度明显是不正确的。“情感”不能作为“商品”，“创造力”不应被仅仅归于制造商品的工具，由工具制作出的商品并非艺术。
从较长的历史周期看，技术的跨越式发展、工具的颠覆式创新，往往能增进人类福祉，同时也会带来风险和挑战。人工智能也不例外。一些极端案例提醒我们，在推动技术发展的过程中，要审慎评估其社会影响，确保技术向善。
今年诺贝尔物理学奖的核心是人工神经网络，其本质是用计算机模拟生命体的神经细胞接受信号、作出反馈的过程。它模拟的水平越高，就越能像人一样思考和决策。
国际货币基金组织总裁克里斯塔利娜·格奥尔基耶娃最近也警告称，人工智能将像“海啸”一样冲击劳动力市场。然而，目前发达国家的失业率低于5%，接近历史最低水平，工资增长也依然强劲。
AI的点解决方案是用AI改善你现有的决定，AI的应用解决方案是用AI改变你做决定的方式，AI的系统解决方案是AI促成了新的决定——生产模式变了......AI预测你喜欢某些商品后，直接把这些商品寄到你家。也许每个月甚至每周会给你发来一箱商品。你打开箱子：留下喜欢的，退掉不喜欢的。
