大数据通俗来说是什么

相信大家对于这次新冠肺炎疫情期间社区防控力度之严、强度之大深有体会。但在杭州滨江区,在疫情爆发之初,却面临着社区疫情防控人手不足的问题。对此,国家电网杭州分公司研发了全国首个“电力大数据+社区网格化”算法,实现了收集、研判电力数据功能,并对滨江157476户居民、超过1000万条电力数据,进行了收集和分析。为了精准判断细微的用电数据差别,该公司在算法中开发了居民短暂和长期外出、举家返回、隔离人员异动等3个场景6套算法模型。通过3轮150余万条次电力大数据巡航,精准判断出区域内人员日流动量和分布,还可以实时监测居家隔离人员、独居老人等特殊群体347户。这让社区人员得以根据电量波动判断业主状况,提高了登记和服务的效率,从而解决了人手不足的难题。

听完这个例子,不知道你有没有什么感触呢?看似“高大上”的大数据,实际上就是这么的“接地气”。今天呢,我主要是想纠正一些大家对于大数据的误解,对大数据有一个更清晰且正确的认识。

二、大数据是什么?

其中,第三范式和第四范式都是由计算机来进行计算的,二者之间有什么区别呢?

引用维克托·迈尔·舍恩伯格撰写的《大数据时代》中的话来说,就是:大数据时代最大的转变,就是放弃对因果关系的渴求,取而代之关注相关关系。第四范式相对于第三范式来说,更关注“是什么”,而不需要知道“为什么”,就像人类总是会思考事物之间的因果联系,电脑却更擅长相关性分析。这也是为什么有人提出第三范式是“人脑+电脑”,人脑是主角,而第四范式是“电脑+人脑”,电脑是主角。

也许会有同学提出疑问,这是不是与我们科学研究的理念相违背?毕竟,如果通篇只有对数据相关性的分析,而缺乏具体的因果解读,这样的文章一般被认为是数据堆砌,是不可能发表的。

这里我又想给大家举一个例子了,让大家更好的理解第四范式的意义所在。拿我们近年来特别关心的雾霾来说,我们想要研究雾霾的产生机制,从而进行针对性的预防。

按照第三范式的思路,我们需要先在一些具有“代表性”的地方建立气象站,收集与雾霾形成有关的参数,包括大气化学成分、地形、风向、温度、湿度等气象因素。需要注意的是,第三范式下,我们所收集的参数都是我们认为可能会影响到雾霾形成的因素,实际上已经人为地排除了某些不重要的参数。从研究的可行性角度出发无可厚非,但是从准确性上来说,已经是根源性的错误了。如果能够获取更全面的数据,即不加筛选地收集各类参数数据,进行更细致的数据分析,那么就能得出更科学的预测,这就是第四范式的出发点。

相信通过上面的解说,大家对大数据有了一个基本的认识,下面呢我来对大数据做一个简单的定义:大数据(big data),指的是在一定时间范围内不能以常规软件工具处理(存储和计算)的大而复杂的数据集。这些大数据集包括结构化、非结构化和半结构化数据,需要经过进一步的数据处理和分析才能形成有价值的信息。

第一、数据体量巨大

这点相不难理解,我们日常生活中使用的微信、支付宝、微博、抖音等软件每天都会产生数百亿条以上的数据,这仅仅是移动应用一天的数据量,此外其他各行各业也都会产生各式各样的数据,其总量绝对超出了你们的想象。举个具体的例子,据英特尔预测,全球数据总量在2020年将达到44ZB,而中国产生的数据量将为8000EB,8000EB是什么概念?整个地球上所有沙粒总数的10倍!

第二、数据类型繁多

正如我刚才所提到的,大数据包括结构化数据、半结构化数据和非结构化数据。结构化数据指数据的属性相同,可以用统一的结构进行表示;非结构化数据缺少固定的结构,通常整体存储,比如各种图片、视频、音频等,非结构化数据越来越成为数据的主要形式,据IDC数据显示,企业中80%的数据都是非结构化数据;而半结构化数据则介于两者之间,比如HTML和XML文档,其内部用成对的标签记录对应的数据,但每个文档内部的标签又不是统一的,没有固定的规律。

第三、价值密度低

大数据的价值很高,但是单条记录却基本无意义,缺乏有效信息,这也对我们收集数据提出了要求,数据分析一定要建立在大量的数据集的基础上。举个例子,张三是某电商平台的忠实用户,我们作为后台,如果单看他的某一条购物记录,无非是知道了他买了什么东西,消费了多少钱,但是我们一旦利用大数据分析系统对张三所有的购物记录进行分析,那么我们就能得出他的一个消费画像,了解其购买偏好,从而对他进行精准的商品推荐。

第四、处理速度快

如今5G时代,数据产生的速度越来越快,这就要求数据后台能够快速处理掉无用信息,因为需要控制存储成本。同时更快速地处理信息,能够获取更多的有效价值,才能够在商业竞争中取得优势。两方面因素都刺激着数据处理技术的高速发展,目前采取流式数据处理技术可以达到毫秒级甚至微秒级的处理时间,满足实时监控分析用户行为,从而提供个性化服务的需求。

三、结语

最后,引马云的一句话作为结尾:未来的时代将不是IT时代,而是DT的时代。这里的DT就是data technology, 希望各位对大数据有了一个新的认识,也希望大家能够在这个万物互联的时代,把握时代机遇,掌握信息技能,做一朵勇往直前的“后浪”。

大数据,简单来讲就是数据量大!

不过大有大的难处,由于数据量的暴增,导致之前的数据处理工具无法处理如此海量的数据,衍生出大数据技术,就是现在的hadoop和他的一系列周边技术。。

技术进步之后,随着数据处理能力的增强,人工智能也随之突飞猛进,人工智能的特点就是需要大量的数据去喂养,这也是现在为什么人们,更多的是提人工智能,越来越少的谈及大数据,因为大数据已经成为了基础,就像空气和水,非常重要,重要到没有必要去讨论。(当然现在空气污染导致大家对空气的讨论也多了起来,这是后话了)

人工智能需要海量的数据喂养,导致人们又开始拼命的想要获取数据,这个其实是商家层面,消费者来讲只能说是数据的贡献者!

所以,大数据只是商家的大数据,消费者需要商家提供更个性化的服务,就需要给商家提供更多的个人隐私,想要保护隐私,就没有琳琅满目的个性化,,对于消费者来讲,这是一个无法回避的循环!

原创文章,作者:普尔小编,如若转载,请注明出处:http://www.puerpx.cn/pxwd/1694.html

(0)
上一篇 2022-05-14 下午12:46
下一篇 2022-05-14 下午1:19

相关推荐

  • 月嫂怎么考核

    我家小朋友开心出生的时候,我和开心妈妈、开心姥姥专门就请月嫂这个事深入讨论过,而且还去了北京一家专门做家庭服务的知名数字互联网公司面试了十几名月嫂,最后得出的结论是:可以请月嫂,但…

    培训问答 2022-06-12
  • 怎么学电脑技术,怎样学习电脑技术

    看新华同学如何足不出户就好业! 受疫情影响,在“金三银四”的招聘旺季,企业,求职者却陷入“两难”困境,企业招人难,求职者找工作难,据统计今年毕业生将达874万,这让应届毕业生的求职…

    培训问答 2022-11-09
  • emba和mba联考

    新与成商学院滑老师来解答: 据媒体报道,2017年决定将EMBA考试纳入研究生全国联考当中,其考试内容、专业学位、考试分数线等都按照教育部的统一规定实施。同时,MBA考试也不会被取…

    培训问答 2023-07-04
  • 团队执行力差该怎么办

    作为一家童装企业的总经理,在实际的企业经营过程中,深知执行力的重要性,但是我们很多人确实恰恰会误解这个课题,我以我个人的观点来谈谈,以前也解答过类似的问题,在这里做个补充,个人建议…

    培训问答 2023-02-02
  • 高级会计师评审条件,考高级会计师要具备哪些条件

    高级会计师的任职条件,除必须拥护中国共产党的领导,热爱祖国,坚持四项基本原则,遵守和执行《中华人民共和国会计法》外,还要具备四个基本条件: 1、较系统地掌握经济、财务会计理论和相关…

    培训问答 2022-08-02
  • 如何写资讯,怎么写资讯文章

    一般的写资讯就是写新闻,写新闻与学校语文课的作文是很不相同的。作文只要文字通顺、叙述清楚、笔调优美,就是好作文,不一定要求真实,也不是为了发表。新闻是新近发生的事实的报道,要面对广…

    培训问答 2023-01-26
  • 你遇到过哪些汽车销售的经验?(汽车销售顾问培训)

    汽车销售 顾名思义就得懂汽车、懂销售,二者相辅相成,缺一不可! 我个人觉得你要想做好就得对汽车专业知识学的十分透彻,对你的销售越有好处。遇到过好多汽车销售都是很水的,基础知识十分薄…

    培训问答 2022-06-06
  • 我是软件工程专业的大三学生,大学生涯几乎都是玩过来的,底子很差马上大四实习了,有没有必要去报培训班

    网友咨询: 我是软件工程专业的大三学生,大学生涯几乎是玩过来的,底子很差,马上大四实习了,有没有必要去报培训班? 我的答复: 这又是一个典型的大学放松对自己要求的例子,到了大学以后…

    培训问答 2022-11-24
  • 西餐厨师培训,学做西餐厨师有没有前途?西餐培训学校哪家好呢

    学做西餐厨师有没有前途?西餐培训学校哪家好 学习西餐的话,是相当有前途的,学习好了就业也是多容易的,现在不少的人都是在四川哪里学习的西餐,四川的有个成都新东方烹饪学校,是专业的西餐…

    培训问答 2022-07-25
  • 连云港有哪些好中专

    连云港是一个沿海小城市,要说好的地方,应该与内陆城市相比较。首先,交通便利。海陆空外加内河水运,在全国也是属于交通很发达。陇海铁路,中国东西向的主要铁路干线之一。横贯江苏、安徽、河…

    培训问答 2023-06-24

发表回复

登录后才能评论