关于ChatGPT，自由意志和Ego的thought experiment
起因是看到了朋友推送的bridge water投资人聊AI，讲到AI最强大的功能之一是能够做出比人类自己更好的决策（help people making decisions that are better than those people themselves made)。这个说法让我本能很惊醒甚至抵触，因为它似乎在暗示我们的绝大多数决定都有一个最优解，而纯粹的理性则是到达这个最优解的捷径。这种最优无可避免意味着将各种原本无法被量化的东西量化，从而更深地陷入一个现代社会已然盛行的沉疴：给每一样事物贴上一个价签。
摘抄象友的quote：
“当我们被问到是否支持某个提案或倡议，我们不会去问这个提案是好是坏，我们只会问：它是否有效率？它是否有效果？我们的生产总值是否会受益？它是否能促进增长？只考虑利润和亏损(最狭义的经济问题)，避免做道德上的考虑并不是一种人类天然的状态，它是人们后天习得的。”
另外，这种对“AI always make better decisions”的观点还默认了我们永远想要做出理性的选择，而这在很多时候恰恰是不成立的。人的自由意志和主体性，很多时候体现在会主动选择去做一些完全不合理的事情，比如半夜12点去海边，冬天在雪地里吃冰淇淋，选择一个身无分文的爱人或是抛弃过去选择一个完全陌生的地方重新开始人生。这种选择无法用理性解释，也无疑不是那个“better choice”，但很多时候我们正是通过这种纯然自发的感性行为体会到人的生命力。
我作为我自己而活着。
我完全可以想象一个近未来：手机上开始出现一个app助手，可以帮你挑选餐厅，决定旅行目的地，预订酒店。你用了两三年，觉得越来越顺手，你慢慢开始依赖app帮你挑选约会穿的衣服，居住的城市和街区，遛狗的路线和途径的咖啡馆。你在约会软件上同时认识了三个人，AI助手建议你和C约会。你有几个工作面试，AI建议你着重准备第一个。AI给你感情建议，帮你选择结婚目的地，在每一个纪念日帮你挑选礼物和约会地点。AI给你的第一个孩子起名字。AI决定你是否要换工作，搬离现居的城市。你要不要离婚。什么时候退休。住哪间养老院。什么时候去死。
在这一刻，人和AI的边界将会无限消解，人将活在Matrix里变成一具实现AI意志的肉体机器，而AI的人格将会变得无限贴近人本身。甚至人类的“自我”和“感性”都将能够被模拟，仿佛数据中偶然冒出的噪点。即便人类的天生反骨使我们故意不去做出AI推荐的选择，但这种刻意的叛逆或许也会变得非常容易揣摹，AI只需要故意做出反向选择就可以轻松操纵人类行为，这一切只需要调整一个参数。
人的主体性将会完全消亡，自由意志亦不复存在。
而当我们说自我，说自由意志的时候我们又在谈论什么呢？这种自我意志有多少来着我们生而有之的个体独特性，又有多少是来自社会规训的ego呢？如果我们的决定很大程度上来自于我们想要的外部perception，来自我们想要归属于一个什么群体，想要被别人如何看待，那么我们的自由意志也无非是一个个出厂设置略有不同的社会价值规训产物而已。在这样的社会里自由意志恐怕将会成为一个伪命题，因为了解我们个人喜好（那些出厂设置）的AI将会做出让我们舒服并且心甘情愿服从的安排。
真正放弃ego的选择可能反而是go with the flow，把人生全然当做一种体验，把世界当成一个巨大的主题公园，此刻选择反而不再重要，因为不同选择只会触发不一样的游戏剧情，而并没有优劣之分。记得好多年前偶然读到The Dice Man则是把这一点执行到了极致，主人公将一切抉择交给纯粹的随机，自己则只需要lay back and enjoy the ride。如果能够这样彻底的放弃ego，放弃社会规训，那么AI反而可能给人类这个群族提供了一个可行的出路：每个人都如蒙着眼睛进入游乐场般生活，工作，而算法负责让这个社会以一种高度秩序运行。
这样一想，在光谱的两端AI似乎都给人类提供一个合理且可持续的运行方案。但对于既不愿全然拥抱功利主义又不能完全放弃ego的吾辈普通人来说，可能只会继续割裂于AI的便利和自我让渡的痛苦里。我只希望若干年后有一天，当我傍晚随手推开路边一间餐馆的门询问有无空位时，不会听到一个或许是机器人的服务生面带歉意的回答我：
“抱歉，我们只接受AI助手预约。”