- 相关博文
- 最新资讯
-
使用sqoop将hive中的数据导入mysql中记录简单案例首先开启集群：start-all.sh在hive中建库建表，并插入一条数据来为自己做实验：验证一下，是否插入成功：在mysql中建表，并且要与hive中传过来的数据字段相对应：建表后为空：用sqoop将hive中的数据传到mysql中：export 导出数据，–connect 连接数据库的参数，–username root 是指用户名为root,test mysql中使用的数据库的库名，–password ‘’
-
- W~J~L
- 23小时前
-
-
文章目录简介1、 scala中声明变量2、惰性变量3、基本数据类型4、scala类型层次结构5、scala中的条件表达式6、scala方法的重载7、scala中的块表达式8、循环1、for循环2、while循环9、方法和函数1、方法2、函数3、方法和函数的区别4、方法转换为函数提示：代码实例重点在于讲解知识点上，代码相对简单，所以都是使用scala shell来直接操作的简介Scala是一门多范式的编程语言，一种类似java的编程语言，是可扩展语言，并集成面向对象编程和函数式编程的各种特性的混合功能编
-
- 橙子园
- 前天
-
-
本文将从ZooKeeper集群如何保证一致性，讲到zookeeper保证数据一致性的协议，然后展开讲Zookeeper集群Leader选举，包括集群三种节点的类型，ZAB协议中节点的四种状态，以及两种情况下Leader选举的过程。然后会详细展开讲解ZAB协议，包括ZAB协议中ZXID的结构，ZAB协议的两个重点，崩溃恢复模式和消息广播模式。然后会通过一个例子来说明ZAB协议中Leader的单点问题，进而引出Paxos算法。文章会分为上下两个篇章，本文为第一部分。
-
- 大能能_
- 20小时前
-
-
hadoop-3.3.3完全分布式集群搭建前言环境准备软件版本集群规划一、配置jdk环境变量1. 解压jdk2. 修改/etc/profile文件二、hadoop集群搭建1. 关闭防火墙2. 修改主机名3. 添加ip映射4. 配置免密登录5. 修改hadoop配置文件1. 解压2. 配置hadoop环境变量3. hadoop-env.sh4. core-site.xml5. hdfs-site.xml6. yarn-site.xml7. mapred-site.xml8. workers6. 分发文件7.
-
- bloom__❀；
- 昨天
-
-
0. 引言在使用spring-data-elasticsearch读取es中时间类型的数据时出现了日期转换报错，不少初学者会在这里困惑很久，所以今天我们专门来解读该问题的几种解决方案。1. 问题分析该问题的报错形式一般是：Failed to convert from type [java.lang.String] to type [java.util.Date] for value '2022-03-15T14:31:55+08:00'; nested exception is java.lang
-
- wu_55555
- 昨天
-
-
前言上一篇我们认识了一下Kafka以及完成了一个快速入门程序。这篇文章我们将学习Kafka的整体架构，工作流程，以及一些核心概念，正所谓知其然知其所以然。Kafka的架构我们知道，消息队列的工作流程需要三部分组成：Producer生产者 ，Kafka服务器 ，Consumer消费者，生产者发送消息到Kafka，消费者从Kafka拉取消息。而Kafka本身是分布式架构的，如下图：看过我《RocketMQ入门经典》的朋友应该能看出来这个图和RocketMQ的架构图是很相似的，或者说RocketMQ很多
-
- 墨家巨子@俏如来
- 昨天
-
-
本文主要讲的是，我们如何在没有hadoop或者spark这些大数据统计工具的情况，如何对大规模的文章快速的获取分词并且统计词频的方法，尤其是百万级其以上的数据量效果明显。【特别说明】我是经过实测的，可能和自己的机器有关，所以耗时上可能有些差异。但是效果肯定是明显的。好的方法就是要分享给大家。1. 本文涉及到的工具、数据、命令工具：jieba_fast [1] 使用cpython重写了jieba分词库中计算DAG和HMM中的vitrebi函数，速度得到大幅提升。快速利用清华镜像安装jieba_
-
- 快乐的小凯
- 昨天
-
-
一 需求1 监听所有客户端的上线和下线。2 将某一个客户端的上线和离线情况，转告给其他客户端“客户端XX上/下线”3 客户端先将消息发送给服务端，服务端再将此消息转发给所有客户端（包括发送者自己），如果其他客户端接收到了此消息，则显示“【某ip】发送的消息：XXX”；如果是自己接收到了此消息，则消息“【我】发送的消息：XXX”二 服务端1 主程序类package netty.socket;import io.netty.bootstrap.ServerBootstrap;im
-
- chengqiuming
- 昨天
-
-
Hadoop作为大数据的分布式计算框架，发展到今天已经建立起了很完善的生态，本文将一一介绍基于Hadoop生态的一系列框架和组件。Flume简介：Flume 是一个分布式、高可用的服务，用于高效收集、聚合和移动大量日志数据。作用：Flume 主要承载的作用是收集各个数据源的事件或日志数据，然后将其Sink到数据库架构Flume的实现架构原理也非常简单，通过Agent代理来实现数据的收集，一个Agent包含了Source，channel，Sink三个组件。Source：采集的数据来源
-
- 五只鸭子
- 昨天
-
-
文丨智能相对论作者丨陈选滨说起近两年的热门领域，网络安全绝对是排得上号的一个。要知道10年前（也就是2011年），我国的新增网络安全企业数量还不足1万家，直到近两年来，我国的网络安全企业数量才出现爆发性增长。根据企查查数据，2020年我国新增网络安全企业数量为19.79万家，同比增长107.31%，2021年新增网络安全企业数量更达到36.99万家，同比增长86.89%。与此同时，资本市场的加码也在不断的刺激着网络安全产业的蓬勃发展。根据国家工信部网络安全产业发展中心发布的《2021..
-
- 智能相对论
- 昨天
-
-
-
数据库是应用及计算机的核心元素，负责存储运行软件应用所需的一切重要数据。为了保障应用正常运行，总有一个甚至多个数据库在默默运作。我们可以把数据库视为信息仓库，以结构化的方式存储了大量的相关信息，并合理分类，方便搜索及使用。
-
其实“数据湖”的概念由来已久，如果追溯时间大概可以到2011年。如今我们经常提及的数据湖其实可以被认为是一个集中式的安全存储库，用户可以任何规模存储、管理、发现并共享所有结构化和非结构化数据，过程中无需预定义架构。
-
随着数字化的进程，数据的处理、存储和传输得到了飞速的发展。高带宽的需求使得短距互联成了系统发展的瓶颈。受损耗和串扰等因素的影响，基于铜线的电互联的高带宽情况下的传输距离受到了限制，成本也随之上升。而且过多的电缆也会增加系统的重量和布线的复杂度。与电互连相比，基于多模光纤的光互连具有高带宽、低损耗、无串扰和匹配及电磁兼容等问题，而开始广泛地应用于机柜间、框架间和板间的高速互连。
-
云+X案例展 | 金融类：荣之联助力君康人寿构建新一代数据中心
近年来，互联网、大数据、云计算和物联网等行业的蓬勃发展，对数据的存储、交换、计算等的应用需求不断增加，使得大数据发展需求下对上游基础设施领域的需求持续旺盛，促进了数据中心（简称“IDC”）需求的不断增加。同时，各国5G技术的发展和商用化的推广又进一步促进了IDC行业爆发增长。未来，IDC行业必将成为物联网、云计算及5G技术的不断完善与发展下又一风口。
-
云+X案例展 | 民生类：智领云数据中台为“健康武汉”增砖添瓦
与前一个十年相比，如今企业对大规模应用的需求产生了巨大变化，例如： 在互联网领域内，高度连接的应用在海量数据的情况下对于可靠性、性能以及连接性的要求有了数个数量级的提高； 快速响应商业洞见； 快速响应市场/客户需求； 对于企业来说数据的存储、收集和分析变得至关重要，对前沿科技的技术(机器学习，人工智能)支持变得至关重要。
-
华为云TaurusDB计算存储分离架构：让数据“身”分离，“心”凝聚
在2019年HC大会上，华为重磅推出最新一代高扩展海量存储分布式数据库——TaurusDB，它拥有一个最大的特点就是将存储和计算以一种分离的架构形式运行。很多人就会问到，华为云为什么会设计这款产品？核心竞争力是什么？对比原生MySQL的优势有哪些？借此时机，CSDN记者有幸采访到了华为云TaurusDB数据库资深技术专家，现在就请他来为我们一一解答。
-
2019年技术盘点云数据库篇（一）：UCloud专家谈云数据库：千锤百炼 云之重器
公有云逐渐成为企业运行 IT 设施的新趋势，那么作为企业最核心的系统—数据库，数据上云也成为大数据时代的必然选择。对企业来说，数据可视为其命脉，因此数据迁移上云就意味着将企业“命脉”搬到云平台。事实上，数据上云有两种形式，数据库直接上云或者选择云数据库，而云数据库利用其云原生的优势具备了许多过去数据库产品不具备的优势，包括可靠性、弹性、存储容量以及成本等，正逐渐被更多的企业所接受。
-
随着移动互联网、信息技术等创新发展，数据量呈指数级爆发式增长并表现在多个方面，即规模扩张、结构多元化的数据新形态；业务升级转型带来的场景化需求数据新部署；市场细分带来的数据应用新模式以及承载行业发展，发挥核心资源池地位的数据新价值等。据IDC预测，全球数据圈将从2018年的33ZB增至2025年的175ZB，实现5倍以上的增长。在新数据时代，数据在数据形态、部署环境、应用模式和价值需求等方面均出现了更为精细化的需求，应对数据爆发压力，欲将海量的连接、微秒级的延迟、极高的性能体验为我所用，创新存储价值则变得势在必行。
-
点赞功能大家都不会陌生，像微信这样的社交产品中都有，但别看功能小，想要做好需要考虑的东西还挺多的，如海量数据的分布式存储、分布式缓存、多IDC的数据一致性、访问路由到机房的算法等等。
-
-
-
腾讯Techo开发者大会揭晓云存储发展趋向：高性能、高可用、高性价比
产业数字化转型过程中产生着比过去任何一个时代都多的数据。在这样的背景下，数据存储技术应该怎么发展？11月7日，在腾讯Techo开发者大会上，来自科研领域的专家和腾讯云存储业务的工程师们共同揭开了云存储的发展趋势。
-
戴尔与AMD强强联合：五款PowerEdge服务器 ，让用户无法抗拒的选择
一口气发布5款产品，除了戴尔对于市场的乐观，更来源于对产品的自信，而这份自信则在于与AMD的强强联合。
-
i 智慧 | 回首30年存储演进之路 再看新数据时代阿里云存储如何革故鼎新？
人类以日新月异的速度刷新着科技的成果，其中存储的发展历史尤其悠久，堪称万年进化史。自文明诞生以来，我们就一直在寻求能够更有效存储信息的方式，从4万年前的洞穴壁画、6000年前泥板上的楔形文字，到今天普及的SSD/闪存，再到对量子存储、DNA存储技术的探索，脚步从未停止。据IDC预测，2025年全球数据将有175 ZettaBytes的总量。如此惊人而又庞大的数据量，为存储市场带来机遇的同时，也带来了不小的挑战。
-
排序算法这么多，这里先将排序算法做个简单分类： 一、可以根据待排序的数据量规模分类： 内部排序：在排序过程中，待排序的数据能够被全部加载进内存中 外部排序：待排序的数据太大，不能全部同时放入内存，排序过程中需要内存与外部存储交换数据
-
阿里云存储负责人吴结生：安全可靠是云存储立身之本， 智能技术将激活存储技术新变革...
人类以日新月异的速度刷新着科技的成果，其中存储的发展历史尤其悠久，堪称万年进化史。自文明诞生以来，我们就一直在寻求能够更有效存储信息的方式，从4万年前的洞穴壁画、6000年前泥板上的楔形文字，到今天普及的SSD/闪存，再到对量子存储、DNA存储技术的探索，脚步从未停止。
-
活动
-
2021-11-10
-
2021-03-09
-
2020-12-16
独家定制
-
-
3500人的专业安全团队与你同在
-
-
CSDN云计算在线公开课
-
-
IaaS市场高速增长，历久弥新
精品推荐
关于我们
关注「云计算」
转载 & 投稿：songhui@csdn.net
商务合作：zhangjing@csdn.net