铁路中的算法决策(ADM)应该受到监管吗?

算法决策(ADM)是一种处理和分析大量数据以获取特定信息、识别模式和相关性、提出建议或触发事件的能力。开发算法来训练数据以辅助或替代人类决策。当与机器学习功能集成时，它可以监控、预测并提供替代解决方案。具有机器学习能力的ADM在开发用于铁路资产管理的传感器和软件产品、运营自动化以及在使用旅行计划或电子票务应用程序等旅行平台时为客户提供帮助方面尤其相关和有用。

ADM可以是基于代码(基于规则)或数据驱动的(Hildebrandt, 2018)。铁路运营中基于代码的决策的一个例子是使用经过编程的传感器来识别烟雾，例如火车厕所里的香烟。一旦传感器识别出烟雾，它就会触发警报，让火车停下来。这些传感器将按照“如果这个，那么那个”的原则进行编码。

数据驱动的决策更为复杂，因为它需要先进的技术来处理收集到的数据数据。一个例子是使用行程规划工具，该工具具有机器学习能力，可以了解乘客的旅行行为，并推荐最佳连接，最佳路线，并可能提供旅行优惠。

ADM可以完全自动化，也可以有人工干预。在火车上的香烟烟雾的情况下，ADM仅限于车辆的制动。作为下一步，列车管理员和司机有一系列的无线电交换，在火车重新出发之前进行额外的检查。

ADM系统正变得越来越流行，并已在许多部门和行业中实施，如医疗保健、银行和营销。欧洲议会研究服务处的一项研究指出了滥用算法决策系统(ADS)的可能风险，这可能导致偏见、歧视或不公平的做法，这不仅会影响人们和社会，还会影响技术和市场(EPRS, 2019)。欧盟(EU)一直在努力引入数字战略和立法，如《数字市场法》、《数据治理法》、《数据法》、《数字服务法》和《通用数据保护条例》(GDPR)等。这些立法举措侧重于实体、个人和公共部门之间共享数据的流程和结构，引入了访问、使用和传输数据的措施，并定义了使用个人数据的权利和责任。

如果与铁路ADM相关的风险和挑战存在，上述立法文本是否对这些系统进行了充分的监管或过度监管?答案取决于问的是谁:即消费者、用户、制造商、铁路公司还是当局。下面是几个例子，其中根据处理数据的主体(人类或非人类)，对管理ADM有不同的期望。

列车运行

第一个例子是火车的运行，ADM可以帮助火车司机监控路线和火车的性能，识别任何异常情况，防止潜在的脱轨。在这种情况下，ADM可扮演预防或事前的角色，协助司机确保列车的安全运行。脱轨探测装置(DDD)等技术收集数据，监测列车上每辆车的行为、基础设施状况、速度、弯道和其他因素，以确定脱轨的潜在风险。

这些传感器将以一种可以评估风险的方式计算数据。它们与机器学习和分析功能相结合，使触发信息或动作成为可能，在这种情况下，自动制动将被激活以使列车减速。在这个过程中，机车司机会在车厢里收到一条信息，他们可以决定是否放弃刹车，或者让机车根据传感器的判断自动减速。这是一个积极的adm的例子。然而，这种自动决策可能存在风险，驾驶员可能会过度依赖DDD传感器，而不太依赖自己作为驾驶员的经验。由于技术故障、计算错误，甚至是传感器的破坏，仍然可能发生脱轨。在这种情况下，谁是负责任的?是依赖于设备的ADM的司机，还是代码未能处理和训练数据以正确计算算法的公司?数据的安全性和完整性都受到了损害，导致了错误的后果。

马车饲养员

在第二个铁路的例子中，货车管理员越来越有兴趣在他们的车辆上安装监控和跟踪设备运费货车，这样他们就可以监控车队的表现和状况，以确定何时有货车损坏，或需要维护和修理。里程数据对于维修间隔和确定租赁成本也是至关重要的。货车管理公司是指拥有、管理和租赁货车给铁路公司，以便在国内和国际上运输货物的公司。保管人与铁路营运者或铁路企业就使用这些货车有合同安排。虽然管理员认为安装GPS、传感器和其他测量设备有好处，但铁路公司可能不太支持，因为这意味着会有关于车辆状态的数据和信息，这可能会影响他们的商业利益和竞争力。目前的铁路立法没有规范数据管理，并与铁路合同法相衔接。关于货车的使用，有一些合同法上的一般原则，即“统一规则”国际轨道交通车辆使用合同(CUV)和“一般使用合同”(GCU)，但没有规定，也没有软法律解释如何以及应该管理多少收集的数据。

铁路客运

第三个例子是从货运铁路运输过渡到客运铁路运输，在电子购票和数字旅程规划中使用ADM可以识别风险和挑战。在欧洲，有一个强有力的政策目标，即采用统一的电子票务方法，以促进乘客的流动性并改善他们的旅行体验。乘客已经可以使用应用程序或网站来安排他们在欧洲各地的火车旅行。移动购票有时(如果不是经常)要求打开位置数据，以便为乘客提供最近车站的最佳连接或实时旅行信息。结合谷歌地图，人们会惊讶地发现，在一天结束时，他们可以得到旅行的完整报告，使用的交通工具类型，经过的公里数，甚至是这个人最后一次在那个地区的时间。该应用程序会记录旅途中选择的站点，当人们计划再次旅行时，这些站点会自动弹出。

一方面，这种机器学习能力可以被视为一种积极的创新，因为它可以加快预订过程，乘客不需要重复输入相同的数据。虽然这被视为一种旅行便利，但它是一种监控乘客运动的形式。一直激活位置可能会被认为是侵犯隐私和“商业跟踪”的一种形式。这款移动应用还包含信用卡信息、个人详细信息和账单信息。虽然确信应用程序是可靠的，但不知道这些信息是如何存储的，如果它被用于统计和分析或与第三方共享。如果应用程序的用户不知道旅行应用程序是如何处理他或她的数据的，那么可能会出现“黑匣子”的潜在问题。这种情况的矛盾之处在于，好处大于可能的风险，而且目前还没有旅行应用程序用户抱怨缺乏透明度或他们的数据被滥用的情况。更大的风险可能是乘客数据的安全性。

确保透明度和问责制

这三个例子表明，要减少怀疑和不信任，我们需要评估在日常运作中应用ADM时确保透明度和问责制的监管方法。ADM系统及其应用是否应通过国际标准加以规范，还是在数据提供者、数据控制者、数据主机和工具供应商之间建立合同协议就足够了?如果ADM系统处理与跨境业务相关的数据，该如何监管?这是一个国际公约范围内的问题，还是国家和区域一级的法律框架?

使用传感器、工具和解决方案，如移动监控、扫描和车辆自动测试，可以帮助快速收集数据、分析数据，并协助负责人员就车辆和列车的准备情况做出决定。这些数据不是人类敏感的;因此，在合同层面对其进行监管就足够了。

当我们谈到与乘客有关的数据，或与医疗检查、火车司机和火车工作人员在国内和国际上操作火车的能力和技能有关的数据时，就会出现道德和对人的影响的问题。尽管欧盟有《火车司机指令》和操作规则，但它可能会影响到跨部门(而不仅仅是铁路)管理此类私人(或可识别)数据的国家要求和法规。

共同监管的方法?

ADM正在不断发展，其功能变得更加智能。因此，不可能对系统、软件及其应用进行全面监管，也不可能控制所有潜在风险。在部署和经验之后，可能会出现一些新的风险。因此，根据商业案例以及ADM在车队管理、列车运营、维护和旅行计划中的应用情况，采用联合监管的方式来监管ADM可能是最合适的。共同监管将意味着一个监管框架，提出总体原则、高级要求以及收集、管理和共享信息的角色和责任，并与部门的自主权相结合，以制定和实施应用adm的共同标准和流程。在这种情况下，监管框架应被视为开发和实施此类创新解决方案的推动者，同时维护道德、问责制和透明度。

引用:

• 希尔德勃兰特，2018。算法监管和法治。英国皇家学会哲学汇刊A辑:数学、物理与工程科学。376(2028): 1 - 11。
• 欧洲议会研究服务处科学展望组。2019.理解算法决策:科学技术未来的机遇与挑战研究小组。624.261体育。可用:https://www.europarl.europa.eu/RegData/etudes/STUD/2019/624261/EPRS_STU (2019) 624261 _en.pdf