- 相关博文
- 最新资讯
-
hive本身没有直接关停服务的命令，可以通过端口进程的方式进行关闭。两个RunJar分别为metastore、hiveserver2的进程，可以通过“kill -9 进程号”进行关停。配置完metastore-site.xml，需要先初始化hive元数据库，选择在一台节点初始化即可。在hadoop安装目录下的core-site.xml中，需要开启hadoop代理用户配置。进入Hive的配置目录： cd /opt/apps/hive/conf/hive4.0已经弃用默认的Hive Cli。
-
- 大数据探索者
- 昨天
-
-
groupByKey按照key进行分组，没有聚合，直接进行shuffle。会先对分区内部分组，分组完成后进行shuffle，将相同的键从各个分区汇总到一起，再合并。按照key进行聚合，会在shuffle之前进行预聚合。现在分区内部对所有的键-值对进行遍历，遇到相同的key就会执行自定义的聚合逻辑。在每个分区内完成局部预聚合后，就会进行shuffle操作，分区分组聚合，先在不同的分区内进行分组预聚合，再对不同分区的预聚合后的结果进行聚合。特点，分区内的聚合逻辑可以与分区之间聚合逻辑不一样。
-
本文内容为KafkaProducer消息生产过程的源码解析，详细解析了Kafka消息生产中，数据预处理、元数据更新、数据序列化、消息分区生产、写入消息累加器等各个环节的Kafka源码，完整展现了KafkaProducer进行消息生产的各步骤操作细节。
-
- 诗旸的技术记录与分享
- 20小时前
-
-
Filesystem Catalog 是 Apache Paimon 的内置 Catalog，它将元数据直接存储在文件系统中（如 HDFS、S3、本地文件系统等）。Hive Catalog 是基于 Hive Metastore 的 Catalog，实现了 Apache Paimon 和 Hive 生态系统的深度集成。Apache Paimon 提供了多种 Catalog（元数据管理）方式，用于统一管理表的元数据，如表结构、存储位置、分区等。
-
- oo寻梦in记
- 昨天
-
- 数据错误
-
哈喽，大家好，我是Leven, 不知道大家在写spark 程序的时候，有没有发现SparkSession 和SparkContext 两个东西，但总是傻傻分不清楚这这这两者到底有什么关系，这里我就带大家简单了解这两个概念。
-
- Leven199527
- 昨天
-
-
本文探讨了如何在开源项目中集成代码质量检测工具，以解决代码质量参差不齐的问题。我们将介绍常用的工具（如 ESLint 和 SonarQube），并通过实际案例说明其应用过程，包括配置、运行及分析结果。同时，提供完整的前端示例代码模块，展示如何使用这些工具提升代码质量和项目维护效率。通过集成 ESLint、SonarQube 等代码质量检测工具，可以帮助开源项目保持代码风格一致、减少潜在缺陷并提升维护效率。自动化工具的引入能显著降低代码审查成本，为项目的长期发展奠定基础。
-
- 网罗开发
- 昨天
-
-
主要实现流程图如下所示由于业务方的类型很多，比如互动问答、笔记、课程等，所以通知方式必须是低耦合的，所以使用MQ来实现。相关面试题：为什么会选择使用RabbitMQ？RabbitMQ的功能比较丰富 , 支持各种消息收发模式(简单队列模式, 工作队列模式 , 路由模式 , 直接模式 , 主题模式等) , 支持延迟队列 , 惰性队列而且天然支持集群, 保证服务的高可用, 同时性能非常不错 , 社区也比较活跃, 文档资料非常丰富使用MQ吞吐量提升：无需等待消费者处理完成，响应更快速。
-
- 想吃螺狮粉
- 昨天
-
- 数据错误
-
不写简介！直接给我进来学！！！！！给我学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学学
-
- 王子良.
- 昨天
-
-
Azure Synapse Studio 是微软Azure中的一款统一的数据分析平台，集成了多种数据处理功能，旨在帮助用户更高效地进行数据工程任务。数据工厂管理：通过数据工厂，您可以方便地进行ETL（提取、转换、加载）操作。数据工厂支持多种数据源，可以实现数据的高效迁移和转换。数据仓库操作：Synapse Studio允许用户在SQL池中进行数据仓库管理，支持数据的查询和处理，特别适用于大规模数据的分析。SQL池和Spark池配置。
-
- 海棠AI实验室
- 昨天
-
-
吉林大学大数据专业2023级计算机组成原理与系统结构试题回忆
-
在Windows系统下配置Hadoop集群方便初学者使用和调整配置，然在配置中还是出现了或多或少的问题，在收集了不少资料后才得以解决，故在此将我遇到的问题分享一下，做一个小汇总。Hadoop版本：hadoop-3.3.5/hadoop-3.3.4。
-
AMD第二代7nm GPU现身：原生支持光追；Facebook曾洽谈收购Fitbit 但谷歌的报价是其两倍……...
极客头条：速递、最新、绝对有料。这里有企业新动、这里有业界要闻，打起十二分精神，紧跟fashion你可以的！ 每周两次，打卡即read 更快、更全了解泛云圈精彩news go go go
-
不久之前，腾讯云刚刚对外上新了一款服务器，号称深度自研且独一无二，其名字也十二分的卡哇伊，叫做“星星海”。晶少虽然还没来得及探寻其名的出处，不过在与腾讯服务器供应链总经理刘裕勋的谈聊中已基本了解到星星海的重要style之一，为云而生。
-
四大开源项目联合发布 腾讯已成Github全球贡献前十公司！
近日在Techo开发者大会上，腾讯正式对四大重点开源项目进行了联合发布，包括分布式消息中间件TubeMQ、基于最主流的 OpenJDK8开发的Tencent Kona JDK、分布式HTAP数据库 TBase，以及企业级容器平台TKEStack。
-
加速布局无服务器生态，腾讯云与Serverless.com达成全球战略合作！
在云计算技术领域，“Serverless（无服务器）”作为一种新型的软件设计架构正在快速崛起。作为继虚拟机、容器后的第三代通用计算平台，Serverless技术也一直是腾讯云原生的重点发力领域。 近日，在由腾讯云主办的首届Techo开发者大会上，腾讯云宣布与全球最流行的Serverless开发平台Serverless.com达成战略合作，成为 Serverless.com的全球战略合作伙伴以及大中华区独家合作伙伴。截至目前，Serverless.com拥有百万级别的活跃应用程序以及50000+的日下载量。
-
邱跃鹏：软硬件一体化、Serverless、智能化是云计算三大趋势
近日腾讯公司副总裁、腾讯云总裁邱跃鹏在“腾讯Techo开发者”大会上致辞。他表示，云计算未来有三大趋势，即软硬件一体化（Cloud Native Hardware）、无服务器计算（Serverless）和智能化（Smart）。
-
正式开源TKE和TBase，腾讯正成为大数据领域开源全面的厂商
在11月6日召开的Techo开发者大会上，腾讯云副总裁、腾讯数据平台部总经理蒋杰博士正式对外披露腾讯大数据平台10年技术演进历程。经过10年的积累，腾讯大数据平台的算力资源池目前已有超过20万台的规模，每天实时数据计算量超过30万亿条，并且随着资源管理平台核心TKE和分布式数据库TBase正式对外开源，腾讯正在成为大数据领域开源全面的公司。
-
首次落地中国大陆的OpenInfra：中国对于开源做出的贡献力量已不可忽视
一张标志着上海现代建筑地标的东方明珠海报，另一张展示着上海悠久历史的豫园景区海报，不仅向我们展示了这座城市浓厚的历史气息与现代化的繁荣，也让我们看到了OpenStack历经9年历史背后仍有着新鲜的科技气息。仅从这两张景色迷人且拥有时尚气息的两张海报，便能够看出此次开源基础设施峰会的用心良苦。没错，前身为OpenStack Summit的Open Infrastructure Summit首次落地中国大陆，而此次也正是阿丹第一次参加这项盛会，并感到十分荣幸。
-
-
戴尔与AMD强强联合：五款PowerEdge服务器 ，让用户无法抗拒的选择
一口气发布5款产品，除了戴尔对于市场的乐观，更来源于对产品的自信，而这份自信则在于与AMD的强强联合。
-
AWS在中国区域放出了一款“重量级”容器服务，名为 AWS Fargate，光环新网运营的 AWS 中国（北京）区域和西云数据运营的 AWS 中国（宁夏）区域均提供该项服务。 据悉这是一款可以适用于 Amazon ECS的计算引擎，主要帮助企业在生产过程中运行容器、却无需部署或者管理服务器，换句话说就是专注设计和构建应用程序，而不用挂心太多基础设施的“那些事儿”。
2019-11-05 -
很多技术人总是抱怨 新技术/新框架/新概念 太多了，总是学不完，抱怨实在是学不动了。哈哈，这不，最近「 中台 」这么火热，要不要停止抱怨，再咬咬牙学一波？ “很多人都担心被技术新潮流所抛弃，所以当遇见不断涌现的新技术时，总是慌忙的去学习。可是其中到底有多少是真正有用的？又有多少是昙花一现的技术呢？当你无法分辨的时候，其实不必慌张，当一项新技术/概念刚出现的时候，你不必匆忙的去学习，更不必担心自己会错过它，如果它是一个真正有价值的东西，是一个真正经受得住考验得技术，它迟早会再次出现在你面前”。
-
边缘计算无论是在市场规模、年均增速还是在实际落地方面，都有可能在TMT计算领域，上演“中心走向边缘，边缘走向中心”的一幕。只不过，对于边缘计算这个相对新鲜的领域，人们对其认知却有很多不当的地方，甚至是严重的误区，这主要表现在五大方面。不夸张地说，边缘计算里的这五个大坑，可能就有你跳过的。
-
是时候展现真正的技术了！4道程序员智力题你能对几道｜ IT巨能唠
程序员对很多人来说那就是个神秘组织，高薪、加班多都是他们的代名词。但是，大家好像还忘了一点，那就是他们也绝对聪明！黑客、代码天才、编程老手……层出不穷，晦涩的计算机难题也是分分钟搞定，想想就令人神往。那想不想试试自己是否也具备成为程序员的潜质呢，下面分享四道程序员面试智力题，请大家务必要大展身手，千万别谦虚～！
-
i 智慧 | 回首30年存储演进之路 再看新数据时代阿里云存储如何革故鼎新？
人类以日新月异的速度刷新着科技的成果，其中存储的发展历史尤其悠久，堪称万年进化史。自文明诞生以来，我们就一直在寻求能够更有效存储信息的方式，从4万年前的洞穴壁画、6000年前泥板上的楔形文字，到今天普及的SSD/闪存，再到对量子存储、DNA存储技术的探索，脚步从未停止。据IDC预测，2025年全球数据将有175 ZettaBytes的总量。如此惊人而又庞大的数据量，为存储市场带来机遇的同时，也带来了不小的挑战。
-
阿里云与MongoDB达成战略合作，成“唯一”；苹果将推出三款5G版iPhone；谷歌正式推出 TensorFlow 企业版……...
嗨，大家好，重磅君带来的【云重磅】特别栏目，如期而至，每周五第一时间为大家带来重磅新闻。把握技术风向标，了解行业应用与实践，就交给我重磅君吧！
-
程序员， 已经渐渐成当代相亲市场的一只主力军。 甚至可以说是“香饽饽”。 越来越多的妹子， 在写择偶要求时， 会说对程序员有好感。 因为他们， 踏实聪明又靠谱， 钱多花花肠子少。 但关于程序员谈恋爱的“笑点”也不少， 一起来看看吧！
-
雪花算法(snowflake) ：分布式环境，生成全局唯一的订单号
snowflake是Twitter开源的分布式ID生成算法，结果是一个long型的ID。 这种方案大致来说是一种以划分命名空间（UUID也算，由于比较常见，所以单独分析）来生成ID的一种算法，这种方案把64-bit分别划分成多段，分开来标示机器、时间等。 其核心思想是：使用41bit作为毫秒数，10bit作为机器的ID（5个bit是数据中心，5个bit的机器ID），12bit作为毫秒内的流水号，最后还有一个符号位，永远是0。
-
“如今网络安全形势错综复杂，解决方案不可能由一家公司独当天下，面对这样的情况，我们就要选择自身擅长的领域发力，其他领域采取模块合作的方式。”在最近举行的2019合肥网络安全大会上，新华三集团高级副总裁、中国区总裁张力对在场媒体表示。
-
据晶少了解，国庆假期后的首个工作日，AWS就在中国区域放出了一款“重量级”容器服务，名为 AWS Fargate，光环新网运营的 AWS 中国（北京）区域和西云数据运营的 AWS 中国（宁夏）区域均提供该项服务。据悉这是一款可以适用于 Amazon ECS的计算引擎，主要帮助企业在生产过程中运行容器、却无需部署或者管理服务器，换句话说就是专注设计和构建应用程序，而不用挂心太多基础设施的“那些事儿”。
-
活动
-
2021-11-10
-
2021-03-09
-
2020-12-16
独家定制
-
-
3500人的专业安全团队与你同在
-
-
CSDN云计算在线公开课
-
-
IaaS市场高速增长，历久弥新
精品推荐
关于我们
关注「云计算」
转载 & 投稿：songhui@csdn.net
商务合作：zhangjing@csdn.net