- 相关博文
- 最新资讯
-
RPC(Remote Procedure Call,远程过程调用)是一种允许一个程序调用另一个程序的函数或方法,而这两个程序可以位于同一台计算机上,也可以位于不同的计算机上,甚至可以运行在不同的操作系统中。RPC使得开发者可以像调用本地函数一样调用远程函数,从而实现分布式计算和通信。
-
小白Git学习笔记,一篇记录所有Git操作。
-
验证hdfs:可以登录浏览器地址:192.168.20.11:50070 (ip地址是master的地址)export JAVA_HOME=/opt/jdk #这里是opt目录。修改 hdfs-site.xml 将dfs.replication设置为1。在最后加上export JAVA_HOME=/opt/jdk。切换到spark安装目录的/sbin目录下启动spark集群。修改 mapred-site.xml。修改文件yarn-site.xml。修改 core-site.xml。
-
技术面试必备!美团、京东、360等大厂面试题详解,让你轻松应对各大公司面试挑战!
-
本文详细介绍了如何使用 Spring Kafka 进行动态的 Kafka 连接和主题监听管理。通过对 @KafkaListener 注解的执行原理的深入分析,文中详细解释了注解的解析、端点的注册以及监听器容器的创建过程,展示了如何通过编程方式控制 Kafka 消费者行为。此外,还提供了一个实用的动态注册示例,包括数据库配置表的设计、消费者组件的实现,以及通过 REST API 控制消费者启停的方法。
-
检查/etc/profile.d/my_env.sh 文件,确认 Hadoop 和 Java 环境变量配置正确。日志在 Linux 系统中所以读取文件的类型选择:exec 即 execute 执行的意思。注意:对于所有与时间相关的转义序列,Event Header 中必须存在以 “timestamp”的。注:要想读取 Linux 系统中的文件,就得按照 Linux 命令的规则执行命令。(2)创建 flume-file-hdfs.conf 文件。(4)更改test.log文件。动添加 timestamp)。
-
利用filebeat udp协议采集日志的 EFK部署
-
本地实现 Elasticsearch、kibana 管理工具、IK 分词器 的安装部署以及初步使用(以及填坑策略)
-
看到这之前找到的东西大屏,还不错。这里分享一下,5个页面。源代码可免费下载。【免费】2024最新echarts智慧医疗大数据医疗htm+js+css源代码资源-CSDN文库。
-
MQ(Message Queue,消息队列)是分布式系统中用于实现应用之间的异步通信和消息传递的重要组件。然而,在使用MQ时,可能会遇到一些常见问题,这些问题包括消息丢失、消息重复消费、消息顺序性无法保证等
数据错误
-
chromeDriver报错:WebDriverException: unknown error: session deleted because of page crash
-
大数据领域,SQL 的重要性无需多言,甚至称得上是“万物皆可 SQL 化”。不管是做平台的,还是做应用的,都免不了跟 SQL 打交道。大数据工程师们跟 SQL 的关系紧密。从 Hive/Spark SQL 等最原始、最普及的 SQL 查询引擎,到 Kylin/ClickHouse 等 OLAP 引擎,再到流式的 Flink SQL/Kafka SQL,大数据的各条技术栈,都在或多或少地往 SQL 方向靠拢。缺乏对 SQL 的支持会让自身的技术架构逊色不少,同时也会影响使用的便利性。
-
懂底层原理,懂来龙去脉,你才是真的懂。
-
方法中,创建了一个临时顺序节点,并获取了父节点下的所有子节点,并对这些子节点进行排序。如果当前创建的节点是最小的节点,则表示获取到了锁;否则,设置对比当前节点小的最大节点的监听器,当该节点被删除时重新尝试获取锁。ZooKeeper 是一个分布式协调服务,提供了一套完善的分布式原语,可以用来实现分布式锁。需要注意的是,该示例中创建的节点是临时顺序节点,当客户端与 ZooKeeper 断开连接时,该节点会自动删除,从而释放锁。类,它封装了 ZooKeeper 的连接和操作方法,并提供了获取锁和释放锁的功能。
-
Kafka是一个由Scala和Java语言开发的,经典高吞吐量的分布式消息发布和订阅系统,也是大数据技术领域中用作数据交换的核心组件之一。以高吞吐,低延迟,高伸缩,高可靠性,高并发,且社区活跃度高等特性,从而备受广大技术组织的喜爱。
数据错误
-
需求:对“昵称”进行“全文检索查询”,对“账号”进行“精确查询”。
-
嘿,大家好!在数据世界中,管理和分析大数据是我们每天工作的一部分。在这个过程中,熟悉一些基础命令可以让我们事半功倍。今天,我们将探索一些常用的 Hive 数据库基础命令,让您轻松上手管理和分析数据。无论您是新手还是经验丰富的数据分析师,这些命令都将为您的工作带来便利。让我们开始吧!嗨,看到这里了吗?希望您现在对 Hive 数据库的基础命令有了更清晰的认识。通过学习如何启动 Hive Shell、创建数据库和表、加载数据以及运行查询,您可以更加灵活地管理和分析大数据。
-
上述目录中/input 目录是输入数据存放的目录,/output 目录是输出数据存放的目录。重启 SSH 服务,并切换到hadoop用户下验证能否嵌套登录本机,若可以不输入密码登录,则本机通过密钥登录认证成功。在master,slave1,slave2上将 id_rsa.pub 追加到授权 key 文件中。将master,slave1,slave2都转到用户hadoop下。配置 slaves 文件,添加slave1,slave2的ip地址。查看返回值中有没有master,slave1,slave2。
-
Spark-core提交任务执行流程图
-
甲骨文承诺能帮助客户尽快上手员工健康和安全管理解决方案,提供相关的白皮书,在其中列出配置基本安全事件报告的详细步骤,并在整个4月为客户提供线上支持服务,协助客户完成配置工作。
-
Docker容器已经从一种锦上添花的技术转变成了部署环境的必需品。有时,作为开发人员,我们需要花费大量时间调试或研究Docker工具来帮助我们提高生产力。每一次新技术浪潮来临之际,我们都需要花费大量时间学习。
-
从提取层、处理层、基础结构入手,带你了解Spark和Kafka!
电子商务市场中典型的一天是这样的:每分钟发生1万个事件流,并且要选择合适的工具对其进行处理。
-
本文主要列举一些 Kafka 的常用工具,以及举了一些例子来帮助理解。有需要的小伙伴,可以 Mark 起来再看。
-
MySQL 狠甩 Oracle 稳居 Top1,私有云最受重用,大数据人才匮乏! | 中国大数据应用年度报告...
科技长河,顺之者昌,错失者亡。在这个技术百态之中,中国专业的 IT 社区CSDN 创始人&董事长蒋涛曾多次在公开活动中表示,开发者是对技术变革最敏感的人群。这不仅源于开发者、工程师创建了助力这个时代蜕变的工具,他们还极具前瞻性地缔造了真实世界之外的虚拟、数字化世界。
-
-
如果有人要问2019年技术圈什么最热,“中台”绝对当仁不让,从观望到试水,很多公司做出了从 0 到 1 的探索。众所周知,“中台”一词在国内最早是由阿里提出来的,2015 年,马云参观芬兰游戏公司Supercell,观察其每个游戏开发的小团队只有六七个人,但开发与停止的速度之快,让马云即惊讶又好奇。得知如此快的原因是开发者将游戏开发过程中用到的一些通用的游戏素材和算法整理出来,作为工具提供给小团队使用,使得同一套工具可以支持多个游戏研发团队。这样的架构模式给了马云很大的震撼和启发,这也催生了阿里巴巴的中台战略,加之越来越的企业跟随其热度,寄希望于借助中台推动业务增长以快速实现数字化转型, “中台”得以风靡。