“人类监督至关重要，特别是在代理人工智能的应用中，”菲律宾信息技术与业务流程协会（Ibpap）总裁兼首席执行官杰克·马德里（Jack Madrid）在IBM主办的一场关于代理人工智能的编辑论坛上表示。
即便在代理人工智能的支持和应用下，与会专家们也一致认同马德里的观点：“人类有需要立即关注的查询和信息，而人类的触碰是必不可少的。”
论坛的其他发言人包括IBM东盟地区总经理兼技术领导者凯瑟琳·连（Catherine Lian），她强调AI助手和代理正在转变为“合作伙伴”，从而增强人类创造力并重新定义企业运营方式。
IBM亚太区杰出工程师兼客户工程主管阿努普·库马尔（Anup Kumar）分享了来自《IBM CEO研究报告》的见解。该研究探讨了公司高管如何看待人工智能在商业中的战略角色。他表示，研究显示全球对人工智能的高度重视，61%的全球CEO正在积极整合AI代理，并计划大规模部署。在东南亚，这一趋势同样显著，57%的领导者正为其企业准备全面扩展AI应用。
IBM建议那些刚开始其代理AI旅程的企业“从小处着手，快速证明价值，并逐步扩展”。这种方法尤为重要，因为人工智能的采用速度极快且覆盖面广。根据研究，AI正在重塑全球商业格局，而东南亚正成为这一转型的关键地区。
尽管AI代理在效率和生产力方面带来了显著提升，但行业领袖们强调了一个关键需求：持续的人类监督，以应对复杂性并确保这些智能系统的负责任实施。
新加坡信息通信媒体发展局（IMDA）实验室主任克林顿·傅博士（Dr. Clinton Phua）表示，对于大型语言模型，必须“频繁进行基准测试和重新训练，以确保代理不会偏离目标”。代理偏离指的是AI系统开始做出与其预期目标不符的决策。傅博士强调，人类的参与对于确保“为人类”做出的决策得到批准至关重要。这种监督有助于划定界限，确保代理不会越过不可接受的红线。
在菲律宾的业务流程管理和外包行业中，代理AI已经展现出实际应用。马德里先生在其超过二十年的战略、数字创新和业务转型职业生涯中指出，AI代理在处理诸如一级客户服务、基本常见问题解答以及其他银行业、医疗保健、零售和电信等行业的交易性查询时非常有用。这种自动化显著提升了生产力，包括减少了处理时间。然而，在回答《马尼拉时报》的问题时，他警告称，为了提高首次接触解决问题的能力以及从AI代理到人工服务的无缝过渡，“当出现更复杂的问题时，仍需要人类的关注”。
尽管创新和投资力度很大，挑战依然存在。超过一半的东盟领导人报告称，他们的组织内部存在脱节的技术组件，这表明需要整体集成策略——以及人类协调来填补这些空白。
AI与人类协作的一个最重要领域是医疗保健。基于语音和文本的AI代理正在开发中，用于总结医生与患者之间的对话，超越传统的医疗转录。这种创新使得处理速度更快、准确性更高，同时符合美国健康法规的要求。然而，人类审查仍然是确保准确性、合规性以及医疗服务互动中必要同理心的关键。
为应对AI驱动劳动力市场的不断变化的需求，IBM正在积极解决技能差距问题。其举措包括重新设计的AI孵化活动和专门的代理AI训练营，以帮助企业客户掌握有效采用AI所需的工具。IBM还增强了其免费教育平台IBM SkillsBuild，增加了关于AI和代理AI的全面内容。这些努力得到了政府和私营部门合作的支持，推动了再培训计划，进一步强化了人类专业知识必须与AI能力同步发展的理念。
(全文结束)
