aihot  2017-06-02 07:00:18  云计算 |   查看评论   

大数据和基于算法的决策可能如何影响社会

      这篇文章是一个实验。你可能知道,我写了一系列文章,看看大数据和基于算法的决策可能如何影响社会。在这样做时,我强调了我们对未来的一些关注,其中许多法律官僚决定或者由数据挖掘算法和其他赢咖4系统接管或者严重依赖于数据挖掘算法和其他赢咖4系统。我甚至提到这样一个未来的治理状态是一种“algocracy”状态(通过算法规则)。

 

      无论如何,有一件事让我讨论这些过去的讨论是他们相对缺乏细微差异,当涉及到不同的形式,正统系统可以采取。如果我们用太宽的刷子刷漆,我们可能最终忽略这种系统的优点和缺点。认识到这种危险,我一直在努力想出一个更好的方法来分类和分类不同的可能形式的algocracy。在过去几个星期,我想我可能已经有办法做到这一点。

 

      这个职位的目的是给这个新的分类法一个非常一般的概述。我说它是'实验',因为我的希望是,通过分享这个想法,我会得到一些有用的关键反馈从感兴趣的读者。我的目标是开发这个分类模型成一个更长的文章,我可以在别的地方发布。但我不知道这个模型是否有什么好处。所以如果你对这个想法感兴趣,我会感谢你在评论部分可能有任何想法。

 

      那么这种分类法是什么?我会尝试解释它在三个部分。首先,我将解释分类法的灵感 - 即:Christian List对民主决策程序的逻辑空间的分析。第二,我将解释我的分类学 - 阿尔加定式决策程序的逻辑空间是如何工作的。第三,我将简要解释这种分类方法的优点和缺点。

 

      我会尽我所能保持简短。这是我通常失败的事情。

 

1.列表的民主逻辑空间

 

      我写了两篇有关List的民主逻辑空间的文章。如果你想完全解释这个想法,我引导你的注意这些帖子。其背后的基本思想是,政治是建立适当的“集体决策程序”。这些定义为:

 

      集体决策程序:任何以一组个人对一组命题的故意态度作为输入,然后采用一些集合函数来发布集体输出(即集团对相关命题的态度)的程序。

 

      假设你和我组成一个团体。我们必须决定这个周末做什么。我们可以去滑旱冰或山坡行走。我们每个人都有我们的喜好。为了制定一个集体决策,我们需要制定一个程序,将我们的个人偏好,并将它们集合成一个集体的产出。这将决定我们这个周末做什么。

 

      但是有多少不同的方法呢? List的主要见解之一是,存在大量逻辑上可能的决策程序空间。我们可以采用简单的多数统治制度。或者我们可以采用独裁统治,更倾向于一个人对所有其他人的意见。或者我们可以要求一致。或者我们可以做一些顺序排序:首先投票的人,胜利。我不会列出所有的可能性。列表在他的论文中给出了细节。他在那里指出,有24个逻辑上可能的决策程序。

 

      这可能看起来很奇怪,因为只有两个可能的集体决定,但List的观点是仍然有16个可能的聚合过程。本身,从逻辑上可能的决策程序的空间的映射不是非常有帮助。一旦你有更大的团队,需要做出更复杂的决策,你最终会得到难以想象的巨大空间的可能的决策程序。例如,List计算如果你有十个选民面临两个选项,你将有21024可能的集体决策程序。

 

      所以你必须做一些事来减少逻辑可能性的空间。列表通过采用公理方法做到这一点。他规定了任何民主决策程序应该预先满足的一些条件(公理),然后将他对可能的决策程序的逻辑空间的搜索限制到满足这些条件的程序。在民主决策程序的情况下,他强调了应该满足的三个条件:(i)对多元化的坚定性(即程序应该接受个人态度的任何可能的组合); (ii)基本多数主义(即集体决定应反映多数意见);和(iii)集体理性(即集体产出应该符合理性决策的基本标准)。由于事实证明,在任何一个时间都不可能满足所有这三个条件(由于经典的“投票悖论”),功能性民主决策程序的空间比我们可能先想象的要小。我们只剩下那些满足至少两个提到的条件的决策程序。一旦你把可能性的空间减少到这个更容易控制的大小,你可以开始认真考虑它的地形亮点。

 

      无论如何,我们不需要了解List的模型的复杂性。我们只需要了解它的基本要点。他强调如何有许多可能的方法来实施集体决策程序,以及这些程序中只有少数程序将符合道德或政治上可接受的集体决策程序的标准。我认为你可以进行类似的分析,当谈到可能的阿尔及利亚人的决定程序的空间。

 

2.阿尔及利亚的决策程序的逻辑空间

 

      要欣赏这种绘制逻辑空间的方法,我们首先需要了解一个阿尔及利亚式的决策程序是什么。在最一般的意义上,一个阿尔及利亚的决策程序是任何公共决策程序,其中一个计算机化的算法在决策过程中发挥作用(这可以通过数据挖掘,预测分析等)。例如,采用面部识别算法来检测可能的犯罪欺诈案件。在他的书“方程式”中,Luke Dormehl提到了马萨诸塞州机动车辆登记系统正在使用的一种程序。这个算法查看存储在RMV的数据库上的照片,以便去除看起来彼此太相似的面部。当它找到匹配的一对,它会自动发出一个信函,撤销匹配的驱动程序的许可证。这是一个明确的例子,说明一个阿尔及利亚的决定程序。

 

      超越这个一般定义,三个参数似乎定义了可能的阿尔法判定程序的空间。第一个是决策的特定领域或类型。法律和官僚机构在许多不同的领域做出决定。规划机构就应该建立什么以及在哪里做出决定;收入机构排序,归档和搜索纳税申报表和其他财务记录;金融监管机构就金融机构的谨慎治理做出决策;能源监管机构设定能源行业的价格,并执行能源供应商之间的标准;列表继续。在下面概述的正式模型中,决策领域被忽略。我把重点放在定义了阿尔及利亚程序空间的其他两个参数上。但这不是因为域是不重要的。在确定任何特定的阿尔及利亚式决策程序的长处或弱点时,决策领域应该提前规定。

 

      第二个参数涉及这些机构使用的决策“循环”的主要组成部分。法律官僚机构中的人在做决定时使用他们的智慧。智能的标准模型将这种能力分为三个或四个不同的任务。我将在这里采用一个四组件模型(这是我以前的自动化主题的帖子):

 

      (a)感知:从外部世界收集数据。

 

      (b)处理:将数据组织成有用的块或模式,并将其与行动计划或目标相结合。

 

      (c)代理:实施行动计划。

 

      (d)学习:使用一些允许整个智能系统学习过去行为的机制(这个属性使我们能够将过程称为“循环”)。

 

      虽然官僚机构中的个人有能力自己执行这四个任务,但是整个机构的工作也可以根据这四个任务来概念化。例如,收入机构将从特定州或国家(感测)的公民获取个人信息。这些通常采取报税表的形式,但也可能包括其他个人财务信息。然后,代理机构将收集的信息分类为有用的模式,通常通过挑选需要更详细审查或审计(处理)的回报。一旦他们这样做,他们将实际对特定个人进行审计,并得出一个结论,即个人是否欠税或应受到一些惩罚(代理)。一旦整个过程完成,他们将试图从他们的错误和胜利中学习,并改善未来几年的决策过程(学习)。

 

      在绘制algocracy的逻辑空间方面的重要点是可以引入算法系统来执行这四个任务中的一个或全部。因此,不同类型的阿尔及利亚式系统之间存在微妙和重要的质量差异,这取决于计算机采取多少决策过程。

 

      事实上,它比这更复杂,这是什么带给我们第三个也是最后一个参数。这一点涉及人类和决策循环中每个任务的算法之间的精确关系。正如我看到的,有四种可能的关系:(1)人类可以自己完全执行任务; (2)人类可以与算法共享任务(例如,人和计算机可以执行报税分析的不同部分); (3)人类可以监督算法系统(例如,计算机可以分析所有的税收返回并识别异常,然后人类可以批准或不批准他们的分析);和(4)任务可以完全自动化,即完全在算法的控制下。

 

      这是事情变得有趣。使用最后两个参数,我们可以构造一个网格,我们可以用来分类algocratic决策程序。网格看起来像这样:

 

      这个网格告诉我们关注典型决策循环中的四个不同任务,并询问每个任务:这个任务如何在人类和算法之间分布?一旦我们为这四个任务中的每一个回答了这个问题,我们就可以开始编码的阿尔及利亚程序。我建议使用方括号和数字。在方括号中将有四个独立的数字位置。每个位置将代表四个决策任务之一。从左到右,这将是:[感知;加工;行动学习]。然后,您可以用1到4之间的数字替换这些任务的名称。这些数字表示任务在人类和算法之间的分配方式。当解释人和算法之间的四种可能的关系时,数字将对应于先前给出的数字。所以,例如:

 

      [1,1,1,1] =代表非非统一决策程序,即其中所有决策任务都由人执行的程序。

 

      [2,2,2,2] =代表一个人类和算法之间共享每个任务的阿尔及利亚人的决策程序。

 

      [3,3,3,3] =代表一个阿尔及利亚人的决定程序,其中每个任务完全由算法执行,但这些算法由人监督,有一些残余的干预可能性。

 

      [4,4,4,4] =代表一个纯粹的阿尔及利亚的决定程序,其中每个任务由算法执行,没有人类的监督或干预。

 

      这种编码系统允许我们很容易地计算出阿尔及利亚的决策程序的逻辑空间的程度。由于有四个任务和四种可能的方式,这些任务可以在人类和算法之间分配,有256个逻辑上可能的过程(记住这是相对于一个特定的决策领域 - 如果我们考虑所有不同的决策领域,我们将处理一个真正巨大的可能性空间)。

 

3.结论:这个映射运算的实用程序?

 

      所以这是:这是我的计划的基本要点,映射出algocracy的逻辑空间。我知道这种方法有其局限性。特别是,我知道,编码不同可能的algocracies在一般任务,如“感觉”和“处理”,或特定的关系,在“共享”或“监督”,留下了一些需要。有许多不同的方法可以收集和处理数据,有许多不同的方式可以共享和监督任务。因此,这种编码方法相对粗糙。然而,我认为至少有两个原因(可能更多)是有用的。

 

      首先,它使我们可以一目了然地看到民主的现象是多么复杂。在我关于这个主题的原始着述中,我使用了相对不复杂的概念区分,有时指的是推动人类脱离循环或保持循环的系统。这个系统略微更复杂,让我们欣赏一些细微差别的algocracy形式。此外,使用这种编码方法,我们可以系统地认为我们的方式通过不同的方式,在一个给定的决策领域中可以设计和实施一个非政治体系。

 

      第二,使用这种编码方法允许我们挑出广泛的有问题的类型的algocracy,并让他们仔细审查。正如我原来的工作中所提到的,与正统系统相关的道德和政治问题完全破坏或限制人类在这些系统中的作用。特别地,当算法使系统不易于人类理解和控制时可能存在问题。同时,有些类型的algocracy是完全良性的,可能是有益的。例如,我会更关心一个[1,3,1,3]系统,而不是一个[3,1,3,1]系统。为什么?因为在前一个系统中,算法接管了决策过程的主要认知组件(数据分析和学习),而在后者中,算法接管了与数据收集和动作实现相关的一些“工作”。

 

      你怎么看?这是一个有用的系统,用于绘制可能的阿尔及利亚人的决策程序的空间?还是只是不必要的混淆?

 

除特别注明外,本站所有文章均为 赢咖4注册 原创,转载请注明出处来自大数据和基于算法的决策可能如何影响社会

留言与评论(共有 0 条评论)
   
验证码:
[lianlun]1[/lianlun]