KNOWPATHS READER

被看见的人

By 海心 · 72 chapters

Reading layout
CHAPTER 2

第二章 算法有没有偏见

周砚深第一次注意到许知微,不是在聚会,也不是在校园草坪上,而是在一间坐满了人的教室里。

那是大一下学期的一门课,课名很长,涉及技术、公共政策和社会系统。教授是个五十多岁的白人男人,说话很慢,喜欢在黑板上画箭头。他那天讲的是推荐系统,内容从搜索排序说到社交平台,再从用户行为说到商业利益,最后在黑板中央写下一个问题:

**Can an algorithm be biased?**

教室里安静了几秒。

教授问:“谁愿意先说?”

周砚深举手。

“我认为算法本身没有偏见。”

教授看向他。

“为什么?”

“因为算法只是执行目标。偏见来自数据、目标函数、训练方式和设计者,但不是算法本身。”

他说得很平静。

周砚深说话一向这样。他不是那种喜欢抢话的人,但只要确定自己想清楚了,就不会绕弯。他当时穿着一件深灰色卫衣,电脑开着,屏幕上还留着半页代码。

教授点点头。

“所以你的意思是,算法只是工具。”

“对。”

教室另一边忽然传来一个声音。

“那谁决定工具做什么?”

周砚深转过去。

说话的是许知微。

她坐在靠窗的位置,长发扎得很低,桌上没有电脑,只有一本笔记本和一支黑色签字笔。阳光从百叶窗缝里进来,落在她半边脸上。

教授笑了一下。

“很好。请继续。”

许知微看着周砚深。

“你说算法本身没有偏见,因为偏见来自数据、目标和设计者。可如果这些东西最后全部被写进算法里,那为什么还要坚持说算法没有偏见?”

周砚深说:“因为这是两个不同层次。”

“对使用者来说有什么区别?”

“当然有区别。”

“比如?”

“如果问题来自数据,我们修数据。如果问题来自目标函数,我们修目标。如果问题来自实现,我们修代码。你必须知道问题在哪里。”

许知微点了点头。

“那如果问题来自设计者的价值判断呢?”

“也一样。”

“怎么修?”

周砚深停了一下。

许知微没有等他。

“比如一个平台的目标是最大化停留时间。算法发现愤怒内容能让人停得更久,于是不断推送。你说这是算法没有偏见,只是在完成任务。但用户最后看到的世界已经变了。”

教室里有人开始认真听。

教授没有插话。

周砚深说:“那问题是目标设错了。”

“谁设的?”

“产品团队。”

“为什么设这个目标?”

“因为它可以量化。”

许知微笑了一下。

“那是不是说明,能量化的东西更容易被优化,而不能量化的东西更容易被牺牲?”

周砚深皱了皱眉。

“比如?”

“信任。尊严。焦虑。人的复杂感受。”

“这些也可以通过代理指标衡量。”

“代理指标不是它本身。”

教室里有人轻轻笑了一声。

教授终于开口:“这很好。我们现在已经从‘算法有没有偏见’,进入另一个问题——什么东西可以被测量,什么东西不能。”

下课铃响的时候,两个人还没争完。

学生开始收电脑。

许知微合上笔记本,站起来。

周砚深已经走到她桌边。

“你刚才偷换概念。”

她抬眼。

“哪一个?”

“我说算法本身没有价值判断,你把系统产生的结果归到算法本身。”

“结果不是算法的一部分?”

“不是完全等同。”

“用户会关心这个区别吗?”

“研究问题的人必须关心。”

许知微把笔塞进包里。

“所以你的意思是,技术的人负责区分问题,普通人负责承受结果?”

周砚深愣了一下。

“我没这么说。”

“可听起来差不多。”

她背上包就往外走。

周砚深跟出去。

“你叫什么?”

她回头。

“你准备继续吵?”

“讨论。”

“你们CS的人是不是都把吵架叫讨论?”

“你们政治学的人是不是都把讨论变成立场?”

这次许知微真的笑了。

“许知微。”

“周砚深。”

“我知道。”

“你知道?”

“你刚才发言的时候教授叫了名字。”

周砚深停住。

“哦。”

许知微看了他两秒。

“你是不是不太会和女生说话?”

“这和刚才的问题有什么关系?”

“没关系。只是观察。”

她走了。

周砚深站在教学楼外,看着她沿着走廊往前,忽然第一次觉得,一个完全不同意自己的人,也可以很有意思。

后来顾行舟知道这件事,笑了整整十分钟。

“所以你追出去不是为了要联系方式?”

“不是。”

“是为了证明她错了?”

“也不是。”

“那你干什么?”

“继续讨论。”

顾行舟看着他。

“你完了。”

周砚深没听懂。

“什么完了?”

“你这种人一旦开始觉得一个人值得继续讨论,就是最危险的时候。”

事实证明顾行舟说对了一半。

许知微确实很快进入了周砚深的生活,但不是以他预想的方式。

他们一起上了两门课。

一起做过一次小组项目。

也一起在食堂因为平台内容审核吵过四十五分钟。

周砚深认为,平台必须建立清晰规则。

许知微认为,任何规则都会面对例外。

周砚深说:

“那就不断增加规则。”

许知微说:

“那最后你会得到一本没人看得完的法律。”

“那你的解决办法是什么?”

“承认世界不能被完全结构化。”

这句话让周砚深很不舒服。

因为他一直相信,复杂问题至少可以被拆分。

任何系统,只要找到足够多变量,就能理解。

直到许知微出现。

她像一个不断制造异常值的人。

晚上九点多,四个人从餐厅出来,沿着校园慢慢往回走。

第一章那场Friday Table已经过去几天。

顾行舟的视频播放量涨到了三百多。

他今天一路都在说这件事。

“我换了标题。”

林澄夏问:“换成什么?”

“Stanford Student’s Real Life.”

许知微皱眉。

“Real这个词现在是不是快失去意义了?”

顾行舟说:“为什么?”

“所有人都在说真实。”

“那说明大家想看。”

“也可能说明大家越来越不相信。”

顾行舟没接话。

周砚深却忽然说:

“真实本身也可以是产品策略。”

许知微转头。

“你看,又来了。”

“什么?”

“什么东西到你这里最后都可以变成系统。”

“本来就是。”

“爱情也可以?”

周砚深看她。

“爱情有模式。”

顾行舟立刻兴奋起来。

“快,继续。”

林澄夏推了他一下。

“别起哄。”

许知微却问:

“什么模式?”

“相似性、互补性、接触频率、共同经验——”

“所以你谈恋爱之前做回归分析吗?”

顾行舟笑得弯下腰。

周砚深面无表情。

“我只是说存在变量。”

许知微看着他,嘴角慢慢弯起来。

“那你现在和我在一起,是因为哪些变量?”

周砚深停下脚步。

夜风从草坪那边吹过来。

顾行舟和林澄夏很有默契地往前多走了几步。

周砚深显然没有准备这个问题。

他认真想了几秒。

“你很聪明。”

“这算一个。”

“你不轻易接受结论。”

“继续。”

“你会逼我解释。”

“听起来不像优点。”

“对我来说是。”

许知微没有说话。

周砚深又补了一句。

“还有,你总能看到我没有看到的那部分。”

这句话出来以后,他自己好像也有点意外。

许知微原本准备继续开玩笑,最后却没说。

两个人继续往前走。

过了一会儿,她低声说:

“这句还不错。”

周砚深问:“哪句?”

“算了。”

前面的顾行舟回头。

“你们俩有没有发现,我们每次出来,最后都会聊到互联网?”

林澄夏说:“因为你每次都先提。”

“不是。你们想想,我们这一代以后是不是所有事情都绕不开互联网?”

许知微问:“所有?”

“工作、社交、恋爱、赚钱、新闻、购物。”

“还有失眠。”林澄夏说。

顾行舟笑了。

“真的。以前互联网是一部分生活,现在它越来越像生活本身。”

周砚深说:“准确一点,是基础设施。”

顾行舟摆摆手。

“你说话永远像产品文档。”

他们走到Main Quad附近。

夜里的拱廊和白天完全不同。灯从柱子下方打上去,长长的影子落在石板路上。几个学生坐在台阶上讨论期末项目,还有人躺在草坪上看星星。

许知微突然说:

“如果以后真的所有事情都在平台上发生,那平台会变得比政府还了解人。”

顾行舟问:“有这么夸张?”

“政府可能知道你的税。”

她说。

“平台知道你凌晨两点看了什么。”

周砚深接话:

“也可能知道你在哪里买咖啡。”

“喜欢什么人。”

“最近在找什么工作。”

“准备去哪旅行。”

“甚至什么时候心情不好。”

几个人都沉默了一下。

顾行舟拿出手机看了一眼。

“这听起来有点吓人。”

许知微说:

“更吓人的是,你还会主动给。”

林澄夏问:“那怎么办?不用?”

“我没说不用。”

“那你一直批评。”

许知微停下来。

“因为我觉得真正的问题从来不是用不用。”

“是什么?”

“是谁控制。”

周砚深看着她。

她继续说:

“数据属于谁?”

“算法服务谁?”

“平台赚钱和用户利益冲突的时候,听谁的?”

顾行舟笑了笑。

“你以后应该去Twitter。”

许知微看他。

“为什么?”

“天天吵。”

林澄夏笑出声。

许知微倒没有生气。

“也许。”

周砚深说:

“我觉得你会喜欢。”

“你呢?”

“Meta。”

顾行舟立刻转过来。

“你已经决定了?”

“差不多。”

“为什么?”

周砚深想了一下。

“因为我想做真正的大规模系统。”

许知微看他。

“多大?”

“十亿用户。”

“为什么一定要大?”

“因为规模会产生新的东西。”

“也会产生新的问题。”

“所以才值得做。”

她没有反驳。

其实很多时候,她真正喜欢周砚深的地方,并不是他和自己意见一致。

恰恰相反。

她喜欢他真的相信自己说的话。

这个世界上有很多人说正确的话,只是因为知道什么听起来正确。

周砚深不是。

如果他错,他也会错得非常认真。

那天晚上,他们在宿舍区分开。

顾行舟和林澄夏往另一边走。

许知微走了几步,忽然转头。

“砚深。”

“嗯?”

“刚才那个问题。”

“什么?”

“算法有没有偏见。”

周砚深看着她。

“你还要继续?”

“不是。”

她站在路灯下面。

“我只是觉得,可能有一天我们真的会在这件事上吵得很厉害。”

周砚深说:

“那就吵。”

许知微笑了。

“你不怕?”

“为什么怕?”

“如果我们谁也说服不了谁呢?”

周砚深沉默几秒。

“那就继续在一起讨论。”

这一次她没有笑他。

她走回来,轻轻抱了他一下。

很短。

短到周砚深还没来得及反应,她已经松开。

“晚安。”

“晚安。”

许知微走远以后,周砚深站了一会儿。

手机震动。

顾行舟发来消息:

**怎么样?算法算出来了吗?**

周砚深看了几秒。

然后回:

**闭嘴。**

顾行舟几乎立刻发来一个笑脸。

周砚深把手机放进口袋,抬头看了一眼校园。

夜已经很深。

他那时还不知道,多年以后,他真的会参与设计影响数以亿计用户的推荐系统,也真的会坐在一间董事会会议室里,为“增长”和“健康”两个指标作出选择。

他更不知道,站在他身边、一次次质疑他的这个女人,有一天会成为唯一敢在所有人都赞成的时候说“不”的人。

很多重要的关系并不是从赞同开始的。

有些关系,是从一个人不断问另一个人:

“你为什么这样相信?”

开始的。

Enjoying this story? Support the author

A voluntary, one-time contribution in appreciation of this work.

Payment is collected by KnowPaths via Stripe; this does not automatically transfer funds to the author.
READER ENGAGEMENT

Follow the story and stay connected

0 readers are following this story. Followers receive an in-app notification when a new chapter is published.

DISCUSSION

Discussion & Comments 0