随着技术不断演进，关于其影响和后果的讨论变得越来越重要，尤其是当人工智能在日常生活中变得越来越普遍时。
由人工智能驱动的工具现在正在包括医疗保健在内的各个行业出现，促使一些专家质疑应该将多少决策权交给机器。
康奈尔大学教授Tanzeem Choudhury近三十年来一直研究人工智能、可穿戴技术和心理健康的交叉领域。
她早期的工作重点是可穿戴设备和智能手机如何检测可能预示个人心理健康变化的行为变化。
Choudhury对该领域的兴趣在一位密友与慢性疼痛作斗争、患上抑郁症并死于自杀后达到顶峰。
"那一刻，我开始思考技术是否能帮助我们更早地检测到这些变化，"Choudhury说。
Choudhury注意到她朋友的行为发生了变化，称他不再是她曾经认识的那个人。
"2006年，人工智能和心理健康领域几乎没有任何研究，心理健康在诊断和测量工具方面是装备最差的领域之一，"Choudhury说。"所以我开始深入研究心理健康领域，认为这是我正在研究和构建的一些工具和技术的绝佳应用。"
她开始探索收集运动模式、睡眠和活动水平数据的可穿戴设备是否可以帮助临床医生更好地了解和预测患者的状况。这些测量方法类似于医生在临床评估中使用的指标，例如某人是否移动更慢、睡眠不佳或日常行为发生变化。
"有很多问题围绕着我们可以获取哪些尚未发现的信号，"Choudhury说。"我们是否能真正了解某人并改变事情，从而希望提供更好的护理或治疗？"
当Choudhury研究人工智能如何监测患者状况，希望利用行为变化来更好地预测和诊断患有精神疾病的人时，人工智能正逐渐进入聊天机器人和社交媒体算法，这些算法旨在尽可能长时间地吸引用户注意力。
在技术发展的早期，许多研究人员主要关注创新，而没有充分考虑新工具的社会和心理影响。
"技术本身是引起变化和行为的原因，所以我认为我要说的是，人们对自我成长、韧性、自我控制的社会或人类影响，以及隐私和伦理问题，没有得到足够的考虑，"Choudhury说。"不幸的是，我认为在人们认真对待之前，它必须成为一个大问题。现在你可以看到整个AI的人文方面，询问构建这些工具意味着什么。"
Choudhury表示，早期的日子培养了一种谨慎感，鼓励对新兴技术采取更具人道主义的方法。
"那些宣扬考虑人类一面重要性的技术小众群体更被接受，我们看到了一些增长，"Choudhury说。"我认为用户从早期就更加了解。因此，希望这些的结合将引导我们走向更好的产品。"
模拟对话的AI聊天机器人最近已成为心理健康领域中人工智能最明显的应用之一。
"聊天机器人只是拼图中的一块，"她说。"它是目前的明星，需要整合所有学到的经验和所有工具，以正确和有效地支持人们。"
当负责任地设计时，人工智能系统可能帮助人们练习应对技巧、追踪行为模式或在与治疗师会面之间获得支持。
然而，Choudhury表示，这些系统必须仔细设计，以考虑用户之间的差异，包括他们的心理健康史和风险水平。
有效的工具应结合多个元素：对个体用户的理解、通过智能手机或可穿戴设备等设备收集的行为数据以及获取更广泛的医学知识。
"深入了解用户的行为和背景可以帮助设计与聊天机器人的正确互动类型，"Choudhury说。"它需要理解用户是不同的，他们处于不同的状态，面临不同的挑战，他们能接受什么，以及他们的风险在哪里。这种组合很重要。"
Choudhury将当前聊天机器人的设计描述为具有"脚本或对话类型的互动，可以访问一个人分享的信息以及互联网上的知识"。
"如果设计得当，它可以将这些数据与知识结合起来，实际上提供某种程度的治疗干预，"Choudhury说。
尽管人工智能不会拥有人类治疗师提供的所有好处，但在需要帮助的时刻，它提供了一定程度的支持。
随时可用的缺点可能表现为不健康的依赖。
"治疗师不会24/7可用，因为你需要建立处理世界和变得有韧性的技能，"Choudhury说。"这是我们还需要更多研究的另一个方面。如果你与这个系统长时间互动，如何设计互动，使得随着时间的推移你不会让使用者变得更加脆弱？"
一些用户可能会变得更加孤立或对AI互动产生不健康的依赖。
"当某人表现出迹象，从世界退缩，并且不想要人际联系时，这些可能是危险信号，"Choudhury说。
尽管人工智能技术前景广阔，Choudhury强调机器无法取代训练有素的心理健康专业人员的角色。
"它并非全是好的，也并非全是坏的，但要知道风险，"Choudhury说。"我们还有很长的路要走，但技术正在迅速变化。"
【全文结束】
