「我们也发现到，很多人把 AI 的各种模型拿来作为搜索引擎的替代品，慢慢都会认为AI产生大部分是对的，所以开始有人去提出来我们慢慢失去判断力，在这样情况之下，对于未来真实的判断、创新的能力，其实会有影响。」勤业众信联合会计师事务所科技与转型服务资深运行副总经理简宏伟在第八届《Hit AI & Blockchain》人工智能暨区块链产业高峰会中表示。
随着ChatGPT掀起全球AI热潮，人工智能技术快速发展，不仅为产业带来新动能，也衍生出新型态的威胁。简宏伟指出，根据美国智库兰德（RAND）2023年12月的研究报告显示，AI技术已被运用于暗网攻击，特别是在假消息传播方面，不仅成本低廉，效率更是惊人。
AI的风险可以从多个层面来探讨，简宏伟分析，技术面上包括模型被渗透、破解，以及通过假数据投毒操纵模型等风险；从认知层面来看，AI生成的假影像、假动画技术日益精进，一般民众难以辨识真伪。更值得关注的是，随着AI逐渐取代搜索引擎的地位，人们对AI生成内容的依赖度提高，可能导致判断力与创新能力的退化。
面对AI浪潮下的就业转型议题，简宏伟表示，新技术确实会造成部分人的工作转换，但同时也创造新的就业机会，关键在于能否掌握新技术，培养新职能。他强调，我们应该正确认知AI风险，采取适当的管理措施，才能有效运用AI技术。
与AI技术并行发展的区块链，在未来的角色至关重要。简宏伟表示，当我们讨论区块链时，不应只关注虚拟货币，而应关注其内核技术应用、虚实集成间的通信基础，如去中心化的数据管理与数字资产转换，近年已有业者尝试将NFT与实体商品结合，展现虚实资产集成的创新应用。美国更开始试行将土地权状等资产上链，探索区块链在治理上的可能性。
然而，简宏伟也提醒，区块链技术并非万能，最大风险仍来自「人为管理」。「无论是密码遗失、离职员工恶意行为，还是系统内部漏洞，这些都是企业在导入区块链时不可忽视的问题。」此外，随着量子运算技术的发展，现有的区块链加密机制可能面临被破解的风险，因此未来需要投入更多资源发展后量子密码学，以确保区块链的安全性。
在数字信任建设方面，简宏伟建议，企业逐步导入零信任架构。「零信任的内核理念是不缺省信任任何层级，而是通过严格的验证机制，创建可信任的数字环境。」他强调，数字信任涉及技术、人文、社会、法律、经济与治理等多个面向，企业应从资产盘点与信用架构查看着手，循序渐进推动转型。
最后，简宏伟推荐企业可参考Deloitte于2025年发表的「AI价值实践：企业崛起关键」报告，深入了解产官学界对AI发展的观点。
