大数据面临的问题:数据是否需要共享
在这个大数据时代,数据带来的难题可真不少,比如,一个企业重要的资产中包括一些特殊的数据,那么就会遇到一个问题,企业是否应该与合作伙伴和供应商共享这些数据,还是应该保留其专有权?
在有关Facebook公司宽松的数据共享政策和欧盟实施通用数据保护条例(GDPR)之间,很多人都在谈论数据隐私和消费者权利。那么作为Facebook或Google等公司的消费者,应该分享多少数据呢?
那么对于企业呢?
企业可能正在处理自己的数据隐私难题,他们应该与合作伙伴、供应商还是与其他组织共享公司数据吗?如果是这样,可以分享哪些数据,以及它们应该保留为私有和专有的数据?毕竟,数据是新的石油。亚马逊、Facebook和谷歌都通过收集和利用数据建立了价值数十亿美元的公司。
虽然数据是公司可能拥有的顶级资产之一,但也可能有令人信服的理由来共享数据。例如,如果行业前沿的癌症中心分享他们每个人收集的数据,它们可能会加速并促进社会治愈癌症的努力。但与竞争对手分享也可能影响他们在市场上的竞争优势。
组织也可能正在考虑参与供应商计划,例如SAP公司正在开发的名为Data Intelligence的计划,该计划将匿名化企业客户数据,并允许这些客户将自己与其他市场进行对比。
“人们意识到他们所拥有的数据具有一定的价值,无论是出于内部目的还是出售给数据合作伙伴,这都会让他们更加意识到他们如何匿名共享数据。”SAP公司MikeFlannagan表示。就他们如何看待数据而言,不同的公司处于不同的成熟水平。
即使企业共享匿名数据以便训练算法,问题仍然是企业在共享匿名数据资产时是否放弃竞争优势。组织需要小心。
“数据非常有价值。”Databricks公司的联合创始人兼首席执行官,加州大学伯克利分校的兼职教授AliGhodsi表示。根据Ghodsi的经验,组织不希望共享他们的数据,但他们愿意出售对它的访问权限。例如,组织可能会在有限的时间段内出售对特定数据集的有限访问权限。
Ghodsi说,数据聚合器是通过抓取网络来创建销售数据集的公司。
Ghodsi说,有些传统的公司可能有数年或数十年的数据尚未暴露于应用人工智能和机器学习,而这些公司可能希望使用这些巨大的数据集获得竞争优势。例如,任何拥有大量会员卡的零售商都可能拥有10年或20年的汇总数据。
在Ghodsi的经验中,组织需要更多数据,但他们不愿意分享,有时甚至在他们自己的组织内也不分享。在许多组织中,IT团队控制着对数据的访问,并且可能不愿意对业务线领域的数据科学家的所有请求进行响应。这是2017年12月由Ghodsi和加州大学伯克利分校的其他研究人员共同撰写的题材之一,主题为“伯克利人工智能系统挑战观点”。Ghodsi表示,该小组正在进行研究,以寻找激励企业公司分享更多数据的方法。其中一种方法是模型本身,而机器学习模型是对所有数据的非常紧凑的总结。
Ghodsi说,“例如,我们拥有世界上所有癌症的大量数据集,可以创建一个机器学习模型。它可以预测肺部癌症的可能性、它们的健康状况、癌症的风险。但仍然没有分享所拥有的所有X射线数据,而且不打算对外你分享。”
Ghodsi说,现在正在开始这种分享。谷歌公司已经发布了许多用于分类图像的模型。
另一种方法称为转移学习,Ghodsi说在Databricks公司启用了一种方法。Ghodsi说,这个工作通过将现有模型与新模型相结合,允许企业通过利用新数据获得新价值。
另一种分享研究数据价值同时保留企业对该数据的私人访问权限的方法是通过联合机器学习。这是Owkin公司使用的技术之一,Owkin公司是一家帮助癌症研究中心加速其研究效益的创业公司。
“在学习中,企业可能将数据留在边缘设备上。”ClouderaFastForwardLabs的数据科学家FriederikeSchuur表示。谷歌公司在博客中解释了它的工作原理:“企业的设备会下载当前模型,通过学习手机上的数据来改进它,然后将更改汇总为集中更新。只有模型的此更新才会发送到云端,使用加密通信,在其中立即与其他用户更新进行优化,以改善共享模型。所有培训数据都保留在设备上,并且云中不会存储任何单独的更新。”
通过这种方式,组织可以为社区的研究工作做出贡献,但不会在此过程中泄露他们的数据。
转移学习和联合学习等创新可以帮助解决医疗保健公司分享数据的问题。数据治理服务商Immuta公司的联合创始人兼首席执行官Matthew Carroll表示,在数据共享方面,医疗公司已经看到了很多关注。
他说,“他们害怕将数据提供给其他人,他们很清清楚楚这是未开发的财富,是未来的企业收入。”
对于初创公司而言,这种恐惧也可能转化为其他后果。例如,如果价值被认为是数据本身,投资公司是否会向分享其数据的公司提供资金?
Schuur说,每家公司都需要自己仔细决定分享内容。“如果是癌症研究,人们应该有更多的数据共享。”
但是组织应该非常小心他们分享的内容以及如何分享。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28你有没有遇到过这样的情况?流量进来了,转化率却不高,辛辛苦苦拉来的用户,最后大部分都悄无声息地离开了,这时候漏斗分析就非 ...
2025-03-27TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中 ...
2025-03-26"不谋全局者,不足谋一域。"在数据驱动的商业时代,战略级数据分析能力已成为职场核心竞争力。《CDA二级教材:商业策略数据分析 ...
2025-03-26当你在某宝刷到【猜你喜欢】时,当抖音精准推来你的梦中情猫时,当美团外卖弹窗刚好是你想吃的火锅店…… 恭喜你,你正在被用户 ...
2025-03-26当面试官问起随机森林时,他到底在考察什么? ""请解释随机森林的原理""——这是数据分析岗位面试中的经典问题。但你可能不知道 ...
2025-03-25在数字化浪潮席卷的当下,数据俨然成为企业的命脉,贯穿于业务运作的各个环节。从线上到线下,从平台的交易数据,到门店的运营 ...
2025-03-25在互联网和移动应用领域,DAU(日活跃用户数)是一个耳熟能详的指标。无论是产品经理、运营,还是数据分析师,DAU都是衡量产品 ...
2025-03-24ABtest做的好,产品优化效果差不了!可见ABtest在评估优化策略的效果方面地位还是很高的,那么如何在业务中应用ABtest? 结合企业 ...
2025-03-21在企业数据分析中,指标体系是至关重要的工具。不仅帮助企业统一数据标准、提升数据质量,还能为业务决策提供有力支持。本文将围 ...
2025-03-20解锁数据分析师高薪密码,CDA 脱产就业班助你逆袭! 在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的 ...
2025-03-19在 MySQL 数据库中,查询一张表但是不包含某个字段可以通过以下两种方法实现:使用 SELECT 子句以明确指定想要的字段,或者使 ...
2025-03-17在当今数字化时代,数据成为企业发展的关键驱动力,而用户画像作为数据分析的重要成果,改变了企业理解用户、开展业务的方式。无 ...
2025-03-172025年是智能体(AI Agent)的元年,大模型和智能体的发展比较迅猛。感觉年初的deepseek刚火没多久,这几天Manus又成为媒体头条 ...
2025-03-14以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-13以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/go ...
2025-03-12以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-11