CrowdStrike软件问题导致微软全球IT中断，扰乱了许多行业。

　　专家警告称，这一事件凸显了科技系统的脆弱性和人工智能的潜在风险。

　　专家表示，政府监管和安全投资对防范风险至关重要。

　　大规模的IT故障震动了世界各地的公司，突显了社会及其驱动系统与大型科技公司的紧密联系，以及一个失误如何引发广泛的混乱。

　　它也暴露了这些系统的脆弱性，并提出了一个问题:大型科技公司是否值得我们信任，以妥善保护像人工智能这样强大的技术?

　　本文仅对Business Insider订阅者开放。成为业内人士，现在就开始阅读。有账户吗?．

　　该软件问题发生在网络安全公司CrowdStrike周五的一次更新中，导致微软it中断，影响了全球的航空公司、银行、零售商、应急服务和医疗保健提供商。据CrowdStrike称，已经部署了一个软件修复程序，但许多系统在周五仍处于离线状态，因为公司正在努力将他们的服务重新上线，其中一些需要手动更新。

　　人工智能研究员、几何智能(Geometric Intelligence，一家机器学习人工智能初创公司，2016年被优步收购)创始人加里·马库斯(Gary Marcus)告诉《商业内幕》(Business Insider)，微软和crowdstrike的中断应该给消费者敲响“警钟”，而人工智能出现类似问题的影响将是10倍。

　　“如果一个bug就能摧毁航空公司、银行、零售商、媒体等等，你凭什么认为我们已经为AGI做好了准备?”马库斯在X的帖子中写道。

　　AGI，也被称为人工通用智能，是一个可以实现人类推理和判断等能力的人工智能版本的术语。OpenAI联合创始人约翰·舒尔曼此前曾预测，这只需要几年时间。

　　有关的故事

　　马库斯过去一直对OpenAI持批评态度，他告诉BI，目前的系统可能会出现问题，消费者正在将大量的权力移交给大型科技公司和人工智能。

　　安全倡导组织“黎明计划”(The Dawn Project)的创始人丹·奥多德(Dan O'Dowd)一直在反对特斯拉的自动驾驶系统。他告诉商业内幕网，CrowdStrike和微软的情况提醒人们，关键的基础设施不够安全或可靠。他说，大型科技公司评估系统的依据是它们是否“大部分时间运行良好”，因为它们急于将产品推向市场。

　　在人工智能方面，其中一些已经很明显了。

　　在过去的六个月里，各大公司都发布了大量的人工智能产品和服务，其中一些已经开始改变人们的工作方式。但是，容易产生幻觉的人工智能模型也在发展过程中出现了一些广为人知的错误，比如谷歌的人工智能概述(AI Overviews)告诉用户要用胶水吃披萨，或者双子座(Gemini)对历史人物的不准确描绘。

　　企业还会轮流发布华丽的新产品，然后因为还没有准备好，或者当公开发布出现问题时，就推迟或取消发布。随着人工智能竞争的升温，OpenAI、微软、谷歌和Adobe今年都缩减或推迟了人工智能产品。

　　虽然其中一些错误或产品延迟可能看起来没什么大不了的，但随着技术的进步，潜在的风险可能会更加严重。

　　美国国务院委托编写了一份人工智能风险评估报告，该报告于今年早些时候发布。该报告指出，人工智能具有很高的武器化风险，可能采取生物战、大规模网络攻击、虚假信息运动或自主机器人的形式。报告称，其结果可能导致包括人类灭绝在内的“灾难性风险”。

　　约翰霍普金斯大学凯里商学院信息系统助理教授Javad Abed告诉商业内幕网，像微软- crowdstrike宕机这样的事件还在继续发生，因为公司仍然将网络安全视为“成本，而不是必要的投资”。他说，大型科技公司应该有替代供应商和多层次的防御策略。

　　Abed说:“在如此关键的网络安全方面额外投资100万美元，远比以后面对数百万美元的潜在损失要谨慎得多。”“以及对声誉和客户信任的持续损害。”

　　根据非营利公共政策组织布鲁金斯学会(Brookings Institution) 2023年的一项研究，公众对机构的信任在过去五年中稳步下降。这种对信心的侵蚀在科技行业尤为明显。布鲁金斯学会的数据显示，包括Facebook、亚马逊(Amazon)和谷歌(Google)在内的大型科技公司的信任度下降幅度最大，信心评级平均下降了13%至18%。

　　这种信任可能会继续受到考验，因为受IT中断影响的公司的消费者和员工都面临着软件更新出错可能导致事情戛然而停的现实。

　　布鲁金斯学会(Brookings Institution)主任桑杰·帕特奈克(Sanjay Patnaik)告诉商业内幕网，政府犯了错误，未能妥善监管社交媒体和人工智能。他说，如果没有足够的防御，这项技术可能会对国家安全构成威胁。

　　帕特奈克说，大型科技公司有“自由支配”。“今天，公司开始意识到这一点。”

　　马库斯也认为，不能相信公司自己能建立可靠的基础设施，这次停电应该提醒我们，“当我们允许人工智能系统不受监管时，我们是在两面下注，或者什么都没有。”