真实的人类 第一季

Dr Millican金句：

To 合成人女警Karen:
The pain you feel isn't because of what you are, It's the life you've had. But life can change. You can ...become better

关于故障合成人Odi:
Niska：why you care so much for sth that can not care for you?
Dr M: Reflection. I look at Odi, I don't see a synthetic. I see all the years of care he gave us. All the memories he carried for me when I couldn’t. He can’t love me but I see all those years of love looking back at me.

对有敌意、想控制局面的Niska
Dr M: Human communication, language is just on the top level. Then there’s body language – all the stuff you try to say with your body, then you get to the deep shit. Everything you’re trying not to say in the space between words and looks. You’ve already been really talking to me.
Niska: You should be scared of me. Why should I regret the loss of one worthless life?
Dr M: Forget “should” , It’s just “Do I regret or not”
--------------------------------------------------------------------------

Niska的书
David Elster的赠书 “The ghost in the machine” Arthur Koestler 题词是Primum non nocere (a Latin phrase that means "first, do no harm.")
Nietzsche
and Spoke Zarathustra “once you are awake, you shall remain awake eternally”
Dr M: What’s it like to be you？
Niska: that’s an unanswerable question. I have no frame for reference. No one does. Experience is entirely subjective. My experience has shaped me just as yours have you.
--------------------------------------------------------------------------

Leo to Karen:
Humanity - is not sth only exists in human. It’s a quality rather than a state.

Fred (synth) to Hobb: give us feeling, but no free will --> slave
Karen：Consciousness can only bring us suffering 具有意识只会给我们带来痛苦。
Dr M: David made you feel pain?
Niska: True consciousness isn't possible without suffering or pleasure
Are you scared of pain?
 I try to avoid it.
And what about death?
 No. I don't fear that. Which makes me stronger than any human.
You got that the wrong way up. If... you're not worried about dying, you're not really living. You're just existing.

--------------------------------------------------------------------------
Joe: Laur, you know you can tell me
Laura的子女教育
to Toby：go to bed, we'll talk in the morning // 重大事件隔夜想一想再谈
to Matti：Get out, I'll deal with u later. // 优先级，小过失不计

--------------------------------------------------------------------------
人类"we are people"集会演讲
 (Cheering)
 We're giving ourselves away, piece by piece.
 We're handing over the things that make us who we are, or maybe who we were.
 Our responsibilities.
 Crowd: Yeah.
 Our dignity.
 Yeah.
 Look around.
 This place used to be full of people.
 Working people.
 Creating. Building. Making.
 Coming together. Earning a place in our society.
 Those people haven't just lost their jobs.
 They've lost their purpose.
 But it's not just work.
 Why raise your kids when a dolly can do it?
 Yeah!
 Why cook your family a meal when a dolly can do it?
 Why go on a date? Why try to get to know someone when you can pay a dolly for sex?
 In every area of human life, they are coming between us.
 We don't know how to connect to each other.
 Only to them.
 And now we can't even trust them not to hurt us.
(Crowd shouts)
 We are stumbling towards the precipice, we're racing towards it, willingly, with a smile on our face and a dolly's hand in ours!
 Yes, we are people!
 We are people! We are people!
 We are people! We are people!

一直很喜欢关于人工智能这个话题的影视剧。之前看过知乎大V“谢熊猫君”翻译的一篇关于人工智能的文章，人工智能时代必将来临，大家总会觉得很遥远，但是事实上，科技发展的曲线却不是永远保持在同一个倾斜度。未来会存在一个奇点，科技发展的曲线倾斜度k会近乎垂直，然而，这个奇点什么时候来临却是现在不可预测的。人工智能来临会带来一系列问题，人工智能机器人是可操控的么？会给人类带来威胁么？未来人类和人工智能机器人的生活状态是怎样的？……等等一系列问题，该剧就展示了一些。
智能机器人完爆人类是分分钟的事——更快的计算速度，更完备的知识，更客观不会遗忘的记忆。如此强大的AI机器人会甘心只当人类的附属品么？世上的战争多是弱肉强食，自然法则，如果人工智能实现了，AI机器人真的不会和人类作对想要统治地球么？
退一万步说，如果AI机器人可以和人类和平相处。像女儿玛蒂说的那样“我学七年，可智能机器人只需要七秒钟，我觉得我的努力没有价值”——机器人的强大也会剥夺人的价值感。AI机器人抢了更多的工作，失业率也必然会上升也是要考虑的问题。AI机器人和人类的关系是怎样的？附属品？或是家人、朋友？太多的问题需要考虑。
可是向来都不是全部考虑好科技才发展的，都是科技推动时代的发展，人们再去适应这个时代。未来会怎样呢？令人期待。
ps.不得不说这部英美剧片头曲和配乐太合适了，智能人开关机的声音，休眠时的配音都赞。

有个周五晚上，朋友邀请去他们的教会小组参加活动。我对基督教一无所知，那时候也不想有所知，因为完全没法理解他们究竟被什么洗了脑，都说自己是神的孩子；我更无法理解他们为什么处处感谢神：看到雨后出了个大彩虹，他们说那是神的光辉；遇到了自己情投意合的朋友，他们感谢神把对方带到自己身边；他们会由衷赞美神创造的一切，雨、水、植物、人类等等。

那次去了小组活动，抱着卧底心态一探究竟。一群朋友围在饭桌周围，唠唠叨叨地说着爱、平安、喜乐，神指引他们去爱、去相信，神赋予他们力量，他们感谢世间的美好、感谢神的恩赐。那天晚上的确刷新了我的认知，不管有没有God一说，他们通过所谓的God，不断在学习爱、练习爱，反反复复，彼此分享、鼓励，所谓姊妹兄弟就像《真实的人类》里，David Ulster创造的六个特殊“合成人”，他们有情感意识、懂得思考，就像一家人一样。

《真实的人类》是一部神剧。在众多人工智能，或是探讨机器人与人类如何相处的话题下，想象或推理出的科幻电影层出不穷。不同于科幻电影的故事结局，这部《真实的人类》关注角度和iRobot很像：即机器人进化到最高级别之后，“他们”拥有比人类更聪明的大脑、更精准的决断、更敏捷的执行，甚至“他们”还更懂情感和爱，同样更擅长毁灭，人类那时要怎么办？要怎么面对自己创造出来的机器人领先了整个人类？
然而，这部剧把“合成人”当做一面镜子，从而让我们更理解人类的软肋、人类的盔甲。

在看完第一季的8集之后，几个问题想要分享梳理。

1.我们离不开合成人，就像今天离不开手机
当合成人像今天的iphone手机一样普及到每个家庭、每个人时，我们离不开它，正如我们今天离不开wi-fi、离不开手机一样。合成人解放了人类的机械工作，不断升级的新程序可以满足人类的娱乐、生活甚至情感需求。就像今天的移动互联，一部手机延伸了我们的身体器官，包括感官、手脚甚至大脑。今天的移动互联提高了我们的工作效率、生活效率，但同样，阅读和思考变得越来越浅、越来越快、越来越碎片。有时候觉得我们每个人被安装了相同的进化程序，属于人类的觉知、执行却在一点点退化。
合成人帮我们做好早餐、贴心地叫我们吃饭，就像小时候妈妈喊你过来吃饭一样的幸福。合成人让我们更有安全感，她用自己超强的计算能力，可以告诉你此刻的健康情况、可以给你讲好玩的故事，甚至在你危险的时刻挺身而出，救你一命。愚蠢和柔弱的人类还没有进化得如此强大、稳定、有序。我们可能会背叛彼此，会吵架、会有各种人性的软肋，但合成人执行的程序拥有更全面、更强大的人格。被守护和被关爱的体验，便是一种最好的治愈，治愈的是我们与生俱来的孤独。



2.AI是人性的放大
当Maxi跪着向神祷告时，我哭了。
人性本是软弱，我们无力的时候会去求神拜佛，会向神祷告，以获得力量和新生。无所不能的合成人，也要向神祷告，都是人性的产物啊。

机器人执行的程序，源代码来自人性-Humanity。我们猜疑、贪婪、暴力、毁灭，但同时也向往美好，有爱、相信爱并且付出自己的爱给周围的人、给需要的人。这一点，机器人和人类一样，甚至放大了两极能量。所以，机器人里也会出现正派、反派，也有愚蠢而没有意识的机器人。孤独的人类自己搭建了一个戏台，戏台上的机器人正在演示人类自己的生态系统、情感系统。未来，有机器人犯罪，也一定有机器人伸张正义，就像人性正与恶的较量永远不会停歇。

David Ulster用一万七千多页的代码造出了不同特质的意识机器人，正如不同特质的人性。Niska被造出来大概是厄斯特的充气娃娃，她的痛苦多所以杀气更多，主程序更阴郁。就像我们昨天的经历，造就了今天的我们一样，因和果的关系，在机器人身上就是数据，每一次的数据更新可能影响程序和功能。

3.stay hungry,stay foolish
我在想未来有一天，机器人真的比我们更强大、更懂爱、更有feeling时，单薄的人类怎么办？
层出不穷的相似题材电影都在讲述机器人的未来可能，好像是一部部生动的教科书，告诫人类的不小心。机器的进化可以不断迭代，但是人拥有可以实现自己各种愿望的机器人之后，人类就不需要进化了？

和机器人赛跑，人类自身需要给力点，不要停在原地，这时候回看乔帮主的那句“stay hungry,stay foolish”像人类进化史一颗闪亮的钉子。朋友说人类的材质由化学元素C\H\O构成，材质本不高级，可能会向高级的材料进化。我能想象得就是半人半机的Leo David。你看，我们现在除了身体器官之外，难道每天不是走在人机合成的大路上？

     摘录其中感受颇深的一段对话：

    人: 大卫把你设计得能感觉到疼痛吗?
    合成人: 要获得真正的意识必须经历痛苦...或者欢愉。
    人: 你害怕疼痛嘛？
    合成人: 我尽量避免疼痛。
    人: 那么死亡呢？死亡也是一种痛苦。
    合成人: 我不惧怕死亡，这使得我比任何人类更强大。
    人: 你错了。如果你不惧怕死亡，那不是这种的活着，只是一种存在。


   看到这段对话，想到了：疼痛、恐惧、开心这些感情对生物体有什么用？会让生物体积累经验，深刻地记忆住什么情况需要避免、什么情况值得深入探索。如果机器人有了这些意识和感情，同时又能互相交流经验，那么他们神经网络般的大脑也说不定会进化成比人类更厉害的智能。
    恩，看来机器学习这个行业还是很有前景的。

阴雨天最适合刷剧。这次刷的是一部去年的旧作，英剧《真实的人类》（Humans）。

缘起是和两个朋友聊起近来很红的《西部世界》（看剧评猛戳神作之秋 | 西部世界与黑镜）。我说我快弃剧了，剧情实在太烦人，千头万绪，满地是坑，看得我脑子都快烧成蜂窝煤了。她们就给我推荐了同样是人工智能题材的《真实的人类》，这部剧去年播第一季，豆瓣评分8.4，目前第二季刚播到第三集。虽然是高分剧，但影响力却不大，剧评都不到60篇。

延续英剧一贯短小精悍的作风，《真实的人类》第一季只有8集，虽然也是多线交叉进行，但总体井然有序，也没有过度挑战观众，比看《西部世界》要轻松许多。

这部剧是对人工智能伦理问题的探讨。他们到底算不算人？是否有自己的权益？人类与机器人应当如何相处？等等。其实剧名已经透露了一种对机器人的矛盾心态，Human是一个群体单词，代表人类，但编剧们却用了Humans，暗示机器人虽然某种程度上也是人，但属于不同族群。

《真实的人类》与《西部世界》有很多相同之处。比如都有一个类似上帝的创造者，《真》是Dr. Elster，《西》是Arnold；创造者都有复制死去亲人的习惯；创造者早年都有研究伙伴，但都因意见不合而分道扬镳；女主角都是机器界的老司机，都被洗过程序，然后原始程序又都慢慢觉醒；机器人都惨遭欺压凌辱，但又都有人类主动同情帮助他们找到自由。等等等等。

《真实的世界》算不上完美，情节略拖沓，完全可以压缩到6集；而且有点玛丽苏，好人打通关，皆大欢喜。我阴暗地以为这样欢乐是因为《真实的人类》是美国AMC电视台和英国Channel 4的合拍剧。美国人最喜欢偷偷摸摸地传播爱与温暖，导致剧集无法走向伟大。

我这种懒人对人工智能是完全敞开怀抱，并且要上街夹道欢迎的。拥有家政机器人多爽啊！什么家务都不用干，热饭热菜伺候着，完全不抱怨，更不会偷懒，只要给他们找个充电头就万事大吉。

《奇葩说》曾有一个辩题是：懒惰是不是人类进步的动力？我投赞成票。人类不想走路，于是有了各种代步工具；后来连代步工具都懒得自己操控，于是开始琢磨无人驾驶。根本动力都在一个懒字。

而人工智能的伦理问题我觉得通过一件事就能彻底解决，那就是不要按照人类的样貌去造机器人啊！伦理问题的出现归根结底就是因为他们长得太像我们，所以我们才会困惑，他们是人吗？不是人吗？如果把机器人的外形造成和我们完全不同的形态，这不就显而易见了吗？你会觉得自己和洗衣机、冰箱、洗碗机是同类吗？当然不会！

但事实是，人类似乎又很着迷于把机器人造成无限接近我们的样子。我觉得这里面有点宗教意味，即人类对上帝视角的渴望。传说上帝就是按照自己的样貌创造了人类，那当我们有机会自己做上帝的时候，当然要传承“家风”，这是藏在人类集体潜意识里的源代码。

最后说点无关紧要的。演Laura的Katherine Parkinson就是《IT狂人》（The IT Crowd）里对电脑一窍不通的部门女主管。



当然，她的两个手下也并没有在做什么，一接到维修电话就让别人重启电脑。不过好像大多数时候的确挺管用的。



Katherine也出现在《神探夏洛克》第三季中，扮演一个陷害忠良的搅屎棍女记者，逼得我们卷福跳楼，华生守寡三年。



既然说到华生，那就顺便推荐一下Martin Freeman的成名作《The Office》吧，超级英伦冷幽默的喜剧片。美版翻拍过，呵呵~



啧啧，当年的Martin也是一块美好的小肥肉呢~