TC分享第 127 期

2023 week 22

你永远会低估你一周可以做的事情，在这里记录一下我这周看到的好东西。有些链接可能需要科学上网。

本周摄影：

新闻思考

这周AI科学家和企业家们发出了一封公开信，警告人工智能可能对人类的生存构成威胁，应被视为与大流行病及核战争同等的社会风险。这封公开信由逾350名从事人工智能工作的高管、研究人员和工程师签署。签署者包括三家领先人工智能公司的高管：OpenAI首席执行官萨姆·奥尔特曼，谷歌DeepMind首席执行官杰米斯·哈萨比斯，以及Anthropic首席执行官达里奥·阿莫代伊。

因为研究AI的科学家看到了AI目前的能力，担心AI发生的太快而会对人类产生威胁，所以在还是早期的时候就呼吁大家一起更好的面对AI的可能的问题。在这里涉及AI对齐的问题，具体是指确保人工智能(AI) 系统被编程为以安全和有益的方式实现其预期目标。这意味着确保人工智能系统不会造成伤害或违背人类价值观，而是努力实现其预期目的。重要的是要确保人工智能与我们的目标和价值观保持一致，这样它才能造福于整个社会。

对于人工智能本身是不存在任何道德观念的，他们设计出来是为了实现一些目标，但是这些目标可能会和人类的价值观相冲突，所以需要人类来指导人工智能的发展。这也是为什么AI对齐是一个很重要的问题，而且是一个很难的问题，因为人类的价值观是很难量化的，而且不同的人有不同的价值观，解决这个问题很难。当这一点没有处理好的时候，我们又给了人工智能很大的权力，让我们的生活更加便利，但是也可能会对我们的生活造成威胁。

AI在未来几年就会和深度融入我们的生活，希望我们可以很好的处理这个问题，让AI可以更好的服务于人类。

科技新闻

【1】神舟十六号航天员乘组名单公布，北航教授首次入选，瞄准明日发射

据央视新闻报道经空间站应用与发展阶段飞行任务总指挥部研究决定，我国神舟十六号载人飞船瞄准明日 9 时 31 分发射。神舟十六号飞行乘组由航天员景海鹏、朱杨柱和桂海潮组成，景海鹏担任指令长，载荷专家桂海潮是北京航空航天大学的一名教授。

桂海潮，男，汉族，籍贯云南施甸，中共党员，博士学位。1986年11月出生，2020年7月加入中国共产党，北京航空航天大学教授、博士生导师。2020年9月，作为载荷专家入选为我国第三批航天员。2022年6月，入选神舟十六号载人飞行任务乘组。

【2】Kindle中国电子书店运营停止通知

【3】只有一句话的声明

一群行业领袖周二警告，他们正在开发的人工智能技术有朝一日可能对人类的生存构成威胁，应被视为与大流行病及核战争同等的社会风险。

非营利组织人工智能安全中心发表的一份只有一句话的声明写道：“减轻人工智能带来的灭绝风险应该成为全球的优先事项，就像应对其他社会规模的风险——如大流行病和核战争一样。”这封公开信由逾350名从事人工智能工作的高管、研究人员和工程师签署。签署者包括三家领先人工智能公司的高管：OpenAI首席执行官萨姆·奥尔特曼，谷歌DeepMind首席执行官杰米斯·哈萨比斯，以及Anthropic首席执行官达里奥·阿莫代伊。

【4】国常会：要#延续和优化新能源汽车车辆购置税减免政策#构建高质量充电基础设施体系

6月2日，李强主持召开国务院常务会议，研究促进新能源汽车产业高质量发展的政策措施。会议指出，新能源汽车是汽车产业转型升级的主要方向，发展空间十分广阔。要巩固和扩大新能源汽车发展优势，进一步优化产业布局，加强动力电池系统、新型底盘架构、智能驾驶体系等重点领域关键核心技术攻关，统筹国内国际资源开发利用，健全动力电池回收利用体系，构建“车能路云”融合发展的产业生态，提升全产业链自主可控能力和绿色发展水平。要延续和优化新能源汽车车辆购置税减免政策，构建高质量充电基础设施体系，进一步稳定市场预期、优化消费环境，更大释放新能源汽车消费潜力。

【5】日本限制OpenAI训练个人敏感信息并发文提醒生成式AI使用者

日本关注生成式AI相关的个人隐私问题。6月2日，日本个人信息保护委员会发布公告，提醒美国AI公司OpenAI，没有事先取得ChatGPT使用者的同意，不能获取使用者的个人敏感信息。据日本个人信息保护委员会，个人敏感信息包括病例、诊断结果、残疾和犯罪记录等信息。

委员会要求OpenAI，为了机器学习而收集信息的，要采取必要行动，避免把个人敏感信息纳入收集的信息中；或者在收集完信息后，立即尽可能减少收集到的个人敏感信息；此后仍有个人敏感信息存留的话，应直接删除，或对这些信息加工，保证个人不会被识别出来；若个人信息保护委员会要求要求停止收集个人信息，应遵守该要求。

优秀的项目

【1】kochrt/qr-designer

QR designer web app with a novel method of designing qr codes that does not take advantage of error correction

【2】PromtEngineer/localGPT

Chat with your documents on your local device using GPT models. No data leaves your device and 100% private.

【3】hwchase17/langchain

Building applications with LLMs through composability

【4】TransformerOptimus/SuperAGI

SuperAGI - A dev-first open source autonomous AI agent framework. Enabling developers to build, manage & run useful autonomous agents quickly and reliably.

【5】salesforce/CodeTF

CodeTF: One-stop Transformer Library for State-of-the-art Code LLM

【6】openai/evals

Evals is a framework for evaluating LLMs and LLM systems, and an open-source registry of benchmarks.