- 相关博文
- 最新资讯
-
本文提出了一种基于消息队列的分布式任务调度优先级设计方案。通过利用RabbitMQ、RocketMQ等消息队列内置的优先级功能，实现高优先级任务优先调度、同级任务公平FIFO处理。方案采用单一业务交换机和启用优先级的队列，通过设置消息优先级属性(x-max-priority)实现任务分级。在消费端通过手动ACK/NACK机制、预取控制(prefetch=1)和幂等处理(taskId去重)确保消息可靠消费，同时支持消费者动态扩容。文章还指出优先级只在队列积压时生效的特点，并建议设置合理优先级档位
-
- 要阿尔卑斯吗.
- 昨天
-
-
本文系统介绍了分布式架构中四种数据库（MySQL、PostgreSQL、Redis、MongoDB）的数据变更感知（CDC）实现方案。MySQL基于Binlog的RBR模式，PostgreSQL通过WAL逻辑复制槽，MongoDB使用官方Change Streams，Redis则依赖有限的Keyspace通知功能。文章详细对比了各方案优缺点，并提出了通用工程化实践，包括全量+增量同步、断点续传、事件幂等处理等。建议将权威数据源CDC与消息总线结合构建平台化方案，同时指出Redis仅适合作为辅助缓存联动。
-
- 要阿尔卑斯吗.
- 昨天
-
-
本文介绍了Spark中的三个重要转换算子：zipWithIndex、mapPartitions和mapPartitionsWithIndex的使用案例。zipWithIndex用于将RDD元素与其索引组成键值对；mapPartitions以分区为单位处理数据，适合批量操作如数据库连接；mapPartitionsWithIndex则在处理分区数据时能获取分区索引。文章分别展示了Java和Scala两种语言的实现代码，并通过示例演示了这些算子在实际应用中的场景和优势，如减少重复初始化开销等。运行结果显示这些算子
-
- Lansonli
- 昨天
-
-
摘要：Sqoop 1.4.7与HBase 2.4.11存在API兼容性问题，因Sqoop 1.4.7仅支持HBase 1.x。升级到Sqoop 1.9.x虽解决HBase兼容性，但与Hadoop 3.1.3又不兼容。需要寻找既兼容HBase 2.x又能与Hadoop 3.1.3协同工作的解决方案，或考虑其他数据迁移工具。（98字）
-
- QL_凉
- 前天
-
-
为何是31次方，不是32次方，又为何要减1?因为最高位用来表示正负，只剩下31位来表示数值。00/01/10/11，总数为2²也就是4，最大值为3，那31位就可以用2的31次方-1表示。自解:在于lucene的设计，它为每篇文档分配唯一值表示id,而这个唯一值定义为java的int类型它是32位有符号整数，因为有符号意味着最高位用来标示正负，不作数值表示，故能达到的理论数字为2的31次方-1，约21.47亿。最高位表示正负，其余31位用来表示数值。问题来源:ES索引能处理多大的数据。
-
- 擦肩千万难把君见、
- 昨天
-
-
一键启动HDFS集群执行原理：在执行此脚本的机器上，启动SecondaryNameNode；在Jetbrains的产品中，均可以安装插件，其中：BigDataTools插件可以帮助我们方便的操作HDFS，比如IntelliJIDEA（JavaIDE）、PyCharm（PythonIDE）、DataGrip（SQLIDE）均可以支持BigdataTool插件。注：使用WEB浏览操作文件系统，一般会遇到权限问题，这是因为WEB浏览器中是以匿名用户（dr.who）登陆的，其只有只读权限，多数操作是做不了的。
-
- 小蛋塔
- 前天
-
-
RabbitMQ 是各种规模的公司使用的最受欢迎的开源消息代理之一。消息代理是一个允许不同组件（例如应用程序和服务）通过交换信息进行通信的系统。通常，它使用消息队列结构来存储和排序消息，以便消费者（例如应用程序或服务）处理消息。
-
Node.js微服务架构设计指南 微服务架构应避免生搬硬套Java解决方案，聚焦业务需求与云原生能力结合。Node.js微服务应优先利用Kubernetes等云平台基础设施，而非重建中间件轮子。 关键技术选型： 配置管理：@nestjs/config或config库 服务发现：集成Consul/Eureka 熔断保护：opossum断路器 负载均衡：Kubernetes Ingress/Nginx 链路追踪：jaeger-client实现 日志采集：winston/pino高性能方案 监控告警：Promet
-
- Wang's Blog
- 前天
-
-
本文介绍了基于Python构建中华古诗词知识图谱的可视化技术方案。系统采用四层架构：1）数据采集层整合多源诗词数据；2）知识抽取层通过NLP技术识别实体关系；3）图谱构建层使用Neo4j存储诗词、作者、朝代等节点及其关联；4）可视化层提供交互式图形展示。关键技术包括领域词典优化、TF-IDF关键词提取和查询性能优化。应用效果显示该系统能显著提升诗词学习效率和文化研究深度，未来可扩展多模态数据和AI创作功能。该项目为文化数字化提供了创新解决方案。
-
- B站计算机毕业设计大学
- 昨天
-
-
本文提供了在AWS EC2实例上部署Elasticsearch和Kibana的详细指南。通过创建EC2实例（使用Amazon Linux 2023 AMI）、配置安全组规则并安装相关软件包，用户可以搭建完整的Elasticsearch环境。文章比较了EC2部署与其他选项的优势，强调其在资源控制、安全性及原型开发方面的灵活性。安装步骤包括下载验证软件、设置Kibana访问权限，并说明了如何验证服务运行状态。该方案适合需要完全控制环境的技术人员，同时建议生产环境考虑添加自动启动、集群配置等增强功能。
-
本文介绍了Kafka 4.1.0集群的部署与架构。主要内容包括：1）采用KRaft协议（无需Zookeeper）搭建三节点集群，详细说明配置参数和启动流程；2）讲解Kafka架构组件，重点说明生产者的消息发送机制（含Spring Boot集成示例）和消费者的分区订阅策略；3）分析Broker存储结构和Topic分区/副本特性。文章还提供了实际部署中的注意事项，如生产者分区策略配置、消费者与分区数匹配等常见问题解决方案。
-
- 会飞的云1024
- 昨天
-
-
摘要：本文解决了CDH6.2.0环境中Spark3写入Hive后查询报错(ArrayIndexOutOfBoundsException)的问题。该异常是由于Spark3使用的ORC版本高于CDH6的Hive版本导致。作者提供了两种解决方案：1)修改Hive兼容高版本ORC(需替换OrcFile.class)，2)修改Spark3的ORC默认写入版本并重新编译ORC-core包。文章详细介绍了第二种方法的具体实施步骤，包括修改OrcFile.java源码关键参数、调整pom.xml仓库配置、使用mvnw编译等
-
- appleYQL
- 昨天
-
-
在实时化转型过程中，如何将“上百张业务表”的全量 + 增量一致地搬到 StarRocks/Doris/Elasticsearch/Iceberg？本文用 Flink CDC 给出一个工程化答案：用一份 YAML 描述整条管道，自动生成 Flink 拓扑、完成一致性快照与变更订阅、处理模式演进（Schema Evolution）、并以 Exactly-Once 语义落地端到端一致性。文末附性能与运维清单。
-
- Hello.Reader
- 昨天
-
加载中...
-
随着移动互联网、信息技术等创新发展，数据量呈指数级爆发式增长并表现在多个方面，即规模扩张、结构多元化的数据新形态；业务升级转型带来的场景化需求数据新部署；市场细分带来的数据应用新模式以及承载行业发展，发挥核心资源池地位的数据新价值等。据IDC预测，全球数据圈将从2018年的33ZB增至2025年的175ZB，实现5倍以上的增长。在新数据时代，数据在数据形态、部署环境、应用模式和价值需求等方面均出现了更为精细化的需求，应对数据爆发压力，欲将海量的连接、微秒级的延迟、极高的性能体验为我所用，创新存储价值则变得势在必行。
-
-
-
IBM在中国发布Cloud Paks，牵手神州数码，助力企业云转型步入“第二篇章”
近日IBM中国今天宣布，IBM已经将其软件组合转化为云原生，并对其进行优化，使之在红帽OpenShift上运行。首批转型成果——IBM Cloud Paks产品组合——正式亮相中国市场。
-
活动
-
2021-11-10
-
2021-03-09
-
2020-12-16
独家定制
-
-
3500人的专业安全团队与你同在
-
-
CSDN云计算在线公开课
-
-
IaaS市场高速增长，历久弥新
精品推荐
关于我们
关注「云计算」
转载 & 投稿：songhui@csdn.net
商务合作：zhangjing@csdn.net