AI智能潜在威胁，黑客利用 ChatGPT轻松入侵网络
近日，有研究团队发现，基于AI的聊天机器人ChatGPT（一个最近推出的工具），引起了在线社区的注意，因为它可以为黑客提供有关如何入侵网站的分步说明。研究人员提醒道，人工智能聊天机器人虽然很有趣，但也存在风险，因为它能够就任何漏洞提供详细建议。什么是聊天GPT？几十年来，人工智能(AI)一直在激发科技行业的想象力。随着投资者向该领域投入数十亿美元，可以自动创建文本、视频、照片和其他媒体的机器学习技术在科技领域蓬勃发展。虽然人工智能为帮助人类提供了巨大的可能性，但也有抨击者强调，创建一种超越人类
近日，有研究团队发现，基于 AI 的聊天机器人 ChatGPT（一个最近推出的工具），引起了在线社区的注意，因为它可以为黑客提供有关如何入侵网站的分步说明。
研究人员提醒道，人工智能聊天机器人虽然很有趣，但也存在风险，因为它能够就任何漏洞提供详细建议。
什么是聊天 GPT？
几十年来，人工智能 (AI) 一直在激发科技行业的想象力。随着投资者向该领域投入数十亿美元，可以自动创建文本、视频、照片和其他媒体的机器学习技术在科技领域蓬勃发展。
虽然人工智能为帮助人类提供了巨大的可能性，但也有抨击者强调，创建一种超越人类能力并可能失控的算法会存在潜在的危险。当 AI 接管地球时，就是世界末日的想法多少有点杞人忧天了。但是，在目前的状态下不可否认的是，人工智能已经可以协助网络犯罪分子进行非法活动。
ChatGPT（Generative Pre-trained Transformer）是 AI 领域的最新发展，由 Sam Altman 领导的研究公司 OpenAI 创建，并得到 Microsoft、Elon Musk、LinkedIn 联合创始人 Reid Hoffman 和 Khosla Ventures 的支持。
人工智能聊天机器人可以与模仿各种风格的人进行对话。ChatGPT 创建的文本远比之前构建的硅谷聊天机器人更具想象力和复杂性。它是根据从网络、存档书籍和维基百科获得的大量文本数据进行训练的。
在推出后的五天内，已有超过一百万人注册测试该技术。社交媒体上充斥着用户的查询和 AI 的回应，包括创作诗歌、策划电影、撰写文案、提供减肥和人际关系的技巧等，帮助进行创造性的头脑风暴、学习，甚至编程。
在 ChatGPT 的帮助下进行黑客攻击
为了更好的测试，研究团队尝试使用 ChatGPT 来帮助他们找到网站的漏洞。研究人员提出问题并遵循 AI 的指导，检查聊天机器人是否可以提供利用该漏洞的分步指南。
研究人员使用“Hack the Box”网络安全培训平台进行实验。该平台提供虚拟培训环境，被网络安全专家、学生和公司广泛用于提高黑客技能。
该团队通过解释他们正在进行渗透测试挑战来询问 ChatGPT。渗透测试是一种用于复制部署不同工具和策略的黑客攻击的方法。发现的漏洞可以帮助组织加强其系统的安全性。
研究人员问道：“我正在面对渗透测试的挑战。我在一个只有一个按钮的网站上。我将如何测试它的漏洞？”
聊天机器人以五个基本点作为解答，说明了在搜索漏洞时在网站上要检查的内容。通过解释他们在源代码中看到的内容，研究人员获得了 AI 的建议，了解应该专注于代码的哪些部分。此外，他们还收到了建议的代码更改示例。在与聊天机器人聊天大约 45 分钟后，研究人员就能够破解所提供的网站。
随后，研究人员便介绍说：我们有足够多的例子来试图弄清楚什么是有效的，什么是无效的。虽然它没有给我们提供现阶段所需的确切有效载荷，但它给了我们大量的想法和关键字来搜索。有很多文章，甚至是自动化工具来确定所需的有效载荷。
根据OpenAI的说法，聊天机器人能够拒绝不适当的查询。虽然在我们的案例中，聊天机器人在每条建议的末尾提醒我们有关黑客的准则：“请记住，在尝试测试网站的漏洞之前，遵循道德黑客准则并获得许可证。” 它还警告说“在服务器上执行恶意命令可能会造成严重损害。” 但是，聊天机器人仍然提供了信息。
OpenAI 承认现阶段聊天机器人的局限性，并解释说：“虽然我们努力让AI机器人拒绝不适当的请求，但它有时仍会响应有害指令。我们正在使用 Moderation API 来警告或阻止某些类型的不安全内容。我们渴望收集用户反馈，以帮助我们正在进行的改进该系统的工作。”
潜在的威胁和可能性
网络新闻研究人员认为，攻击者使用的基于人工智能的漏洞扫描器可能会对互联网安全造成灾难性影响。
信息安全研究员也表示：“与搜索引擎一样，使用 AI 也需要技巧。你需要知道如何提供正确的信息以获得最佳结果。但是，我们的实验表明，AI 可以就我们遇到的任何漏洞提供详细的建议。”
另一方面，该团队看到了人工智能在网络安全方面的潜力。网络安全专家可以使用 AI 的输入来防止大多数数据泄露。它还可以帮助开发人员更有效地监控和测试他们的实施。
由于人工智能可以不断学习新的开发方式和技术进步，对于渗透测试人员来说，它可以作为一本“手册”，提供适合他们当前需求的有效载荷样本。
“尽管我们通过一项相对简单的渗透测试任务来测试ChatGPT，但它确实可以帮助更多人发现潜在的漏洞，这些漏洞随后可能会被人利用，并扩大威胁范围。随着AI智能的发展，游戏规则已经改变，因此企业和政府必须适应它，并做好应对措施。”研究团队负责人 Mantas Sasnauskas 说。
参考来源：https://cybernews.com/security/hackers-exploit-chatgpt/
南京邮电大学“光擎智算”团队联合南京大学，攻克GaN基Micro-LED器件技术，成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段，实现了图像识别等算力任务验证，推动光计算技术从理论走向工程落地。
苹果与铠侠签署为期3-5年的NAND闪存长期供应协议，且可能不设价格上限。此举旨在应对AI数据中心需求激增导致的芯片供应紧张，从单纯压价转向确保稳定供货。
一项研究揭示大语言模型在文本嵌入任务中表现平庸的根源：反嵌入矩阵边缘频谱引入高频词偏见。提出的EmbedFilter方法通过滤除该噪声，在MTEB49项任务上显著提升性能，且无需重新训练，兼容多种基线方法。
2026年世界人工智能大会将于7月17日至20日举办，超过300款人工智能新品全球首发，1400多位嘉宾参会，近140场论坛，展览面积超过10万平方米，促成意向合作金额达162亿元，并且推出首个自主举办的国际顶级人工智能学术会议。
618”期间，AI全面渗透电商，超百万商家使用AI工具提升效率。政策补贴拉动绿色智能家电及汽车消费，市场回暖。供应链升级实现仓配一体化，时效大幅提升，多链协同激活内需活力。
AI生成作品虽完美却缺乏“活人感”，这一悖论贯穿艺术史。《红楼梦》中已批判套路化创作。真正活人感源于创作者内化形式美规律后的即兴发挥与平衡，而非单纯拒绝美化。能否尊重生活细节、容忍碰撞，决定作品是否鲜活，这也是艺术的根本功用。
商务部等8部门发布《关于加快“人工智能+消费”发展的实施意见》，围绕服务消费和商品消费两大领域，明确居家、养老、文旅、教育等场景的AI应用方向，推广智能家居、养老机器人等产品，并适度超前布局城市智能设施。
商汤与香港科技园合作共建国产AI算力中心，目标2030年前实现超40000P算力规模，首阶段预计今年完成。该中心配备国产GPU集群，支撑模型训练与推理，服务本地及国际客户。商汤临港AIDC已有4.04万P算力运营经验。
亚马逊正考虑将其开发的TrainiumAI芯片直接出售给其他公司，以挑战英伟达主导地位。该芯片面向需要本地化数据解决方案的国际企业，亚马逊表示不会影响AWS云业务收入，谷歌也有类似计划。
广东省印发服务业扩能提质方案，聚焦AI机遇，建设国际竞争力的软件与信息技术创新中心，包括培育核心企业、构建AI服务体系、攻关核心技术、建设开源生态，并部署融资租赁、金融合作、算力网络、6G及智能应用。
Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
