tgoop.com/forwardlikehell/2806
Last Update:
这一周用 BingChat、ChatGPT 的几个感受是：
1.generative AI 还取代不了我的工作，无论是 fact check 还是 find the connection 的能力，即生成信息的准确度和深度，都不是很行。它依然是一朵概率云，不具备人类智慧里最关键的「抽象理解能力」，所以大部分时候都在说一些「看起来自然」的废话。
2.距离所谓的 AGI 有多远，我觉得无法评估。因为算法是黑箱，不能点对点地 debug，真正的难题是 edge cases。这也是为什么 Tesla 很润滑地解决了 L2，但解决不了 L4。如果用人类来打比方，GPT 已经学会了说话，但你不知道它能不能长大，成为科学家，突破人类知识的边界。
3.AGI 成为 AGI 的真正标志，我觉得应该是它能被「输入」永久性改变，产生新的认识，而不只是像现在这样整合已有的信息和认识。前者才是真正的智能，像人类一样。但这种改变到底是 for good or bad，很难讲，走到这一步，就是人类的开盒时刻。
4.目前大家想象的，信息驱动式的 generative AI，可能并没有很大的产品市场。就像搜索引擎在移动互联网时代不是最大的生意，因为 90% 以上的成年人都没有求知欲，更不愿意为这件事付钱。这是目前 GPT 产品化成 chatbot 之后，我看到的最大问题，即便取代搜索引擎，它基于广告的商业化能力也要打个问号。
5.generative AI 产品化，最现实的想象，是颠覆「界面」。但这个事情需要硬件大力支持，创造出一个体验可控、可优化的闭环，大概率最后还是转回到手机、手表和耳机。一个纯粹 web-based 的所谓操作系统，我认为只会复制 IFTTT 和 Twitter API 的老路。
6.generative AI 产品化，最狂野的想象，是模拟 companion。这一点现在的 ChatGPT 已经可以做得很好了，语音化一下，把回应策略变得更主动一点，它完全可以产品化成一个人工伴侣之类的东西，like the movie Her。比较遗憾的是，这并不是因为 GPT 过分先进，而是大部分普通人之间的交流，本来就是低效且无聊的，是一些「看起来自然的废话」。从这个角度，利用 GPT，现在就可以造出一个只说漂亮话的 bot。如果有厂商敢这么做，且成功合规，很可能它就会成为下一个抖音。而如果说社交网络时代扩增连接带来的后果，Sherry Turkle 写的《Alone Together》，是人类发现了火并被它烧伤，generative AI 就是核反应。
BY 小破不入渠🌏
Share with your friend now:
tgoop.com/forwardlikehell/2806