中国智能手机制造商打算用人工智能模型的免提、无缝操作取代手动应用程序导航。这项技术带来了无与伦比的便利性,但也引发了用户对设备和应用程序控制的问题。
小米、Vivo、Oppo 和 Honor 等本土厂商都参与了这一议程。荣耀的口号是“人工智能越多,它就越了解你”,抓住了这种转变的潜力和风险。
这就是危险:如果人工智能驱动的决策是基于未经明确同意收集的个人数据,那么它就不再是增强用户体验,而是更多地涉及侵入性监视。
显然,在 2024 年 10 月 Magic 7 发布会期间,首席执行官乔治·赵在舞台上用手机现场点了 2,000 杯咖啡,无需点击一下。观众们惊叹不已,但问题依然存在:技术人员如何知道赵的喜好、选择应用程序并授权付款?
这种非凡的便利性展示引发了一个关键问题的面对:这种创新在多大程度上损害了用户的自主权和隐私?乔治·赵的现场表演只有在手机访问私人数据以遵循命令的情况下才可能实现。对于用户来说,便利性和隐私性哪个更重要?
对 Magic 7 的检查表明它利用了 Android 的辅助权限。此功能旨在帮助残障用户。荣耀和其他某些中国科技公司绕过传统同意流程,以不透明且不受监管的方式获取敏感用户数据。
如果手机最终落入坏人之手,人工智能驱动的决策很容易被武器化。其次,黑客可以利用这些系统来访问用户的财务数据、消息甚至私人照片。如果没有强有力的保障措施,情报技术的便利性可能会成为监视和控制的工具。
其影响再严重不过了。如果不加以控制,当前的轨迹可能会导致未来手机不仅为用户服务,而且在用户不知情的情况下监控、管理他们的行为并将其商业化。
值得注意的是,制造商和监管机构面临的挑战是平衡责任与创新。问题不在于人工智能是否会主宰我们的设备;而在于。它已经这样做了。尽管如此,由智能技术驱动的设备的潜力是不可否认的。这些设备有能力通过简化日常工作和提高可访问性来彻底改变生活。
与此同时,苹果于 2024 年 6 月推出了Apple Intelligence ,这是一种设备上人工智能系统,可将 Siri 转变为更直观的助手。尽管如此,苹果在中国的“革命性”行动未能产生重大影响。
侵犯隐私是不合法的。事实上,2021年,中国应用开发商就遭到了法律诉讼。他们被指控开发利用权限拦截数字交易的工具。
此外,过年期间,红包猎人等应用会matic微信红包。法院认定这些行为违反竞争法后,开发商被处以罚款甚至监禁。
此外,与接受这些风险作为创意过程一部分的中国公司不同,西方竞争对手谨慎行事。例如,微软今年早些时候因其召回功能而受到批评。这是因为它使用定期屏幕截图来评估用户行为并建议操作。
批评者将这一功能比作奥威尔式的噩梦,促使埃隆·马斯克等科技领袖呼吁将其删除。网络安全专业人士警告说,这些功能可能会被用来促进监视。
90 天内开启您的 Web3 职业生涯并获得高薪加密工作的分步系统