Skip to content

Commit 3b193e8

Browse files
committed
add: 引言
1 parent 7c67169 commit 3b193e8

1 file changed

Lines changed: 5 additions & 22 deletions

File tree

index.md

Lines changed: 5 additions & 22 deletions
Original file line numberDiff line numberDiff line change
@@ -2,40 +2,23 @@
22

33
% 定义
44

5-
什么叫数据工程?
6-
7-
广义地,解决数据分析过程中的软件工程相关问题,让数据分析人员能够更专注于数据分析本身。
8-
9-
狭义地,就是指其中的基础设施,我们要做的数据云就是这样一类东西。
5+
什么叫数据工程?广义地,解决数据分析过程中的软件工程相关问题,让数据分析人员能够更专注于数据分析本身。狭义地,就是指其中的基础设施,我们要做的数据云就是这样一类东西。
106

117
% 概述
128

13-
整个Economy中有很多组织和个人在和数据打交道。组织和组织之间、组织内的不同角色之间、个人自己。
14-
15-
我们从局部到整体来建立对整个过程的认知。我们先通过严格的假设关注某一个环节,然后释放一些假设来暴露整体的问题。
9+
整个Economy中有很多组织和个人在和数据打交道。组织和组织之间、组织内的不同角色之间、个人自己。我们从局部到整体来建立对整个过程的认知。我们先通过严格的假设关注某一个环节,然后释放一些假设来暴露整体的问题。
1610

1711
% 个人、单个流程
1812

19-
首先,假设在一个团队中,只有一个人负责完成整个项目。然后,我们需要考虑如何按照完整的流程进行工作,这是我们自己在项目组织中最基本的形式。无论是独自完成还是与几个合伙人一起工作,每个人负责一个项目并将其完整地推进下去。因此,你选择使用数据生命周期的概念来描述整个数据从产生到消失的全过程。
20-
21-
接下来,你计划对数据生命周期进行严谨的定义,最好能够涵盖市面上所有关于数据生命周期的理解,以提供更准确的认识。你还计划介绍各种可能遇到的问题,并提供解决方案。这部分的高级内容将会分散在其他教程中,比如爬虫教程和数据分析教程等。在这个数据工程教程中,你的重点将是讲解工程问题以及如何解决这些问题。
13+
首先,假设在一个团队中,只有一个人负责完成整个项目。然后,我们需要考虑如何按照完整的流程进行工作,这是我们自己在项目组织中最基本的形式。无论是独自完成还是与几个合伙人一起工作,每个人负责一个项目并将其完整地推进下去。因此,你选择使用数据生命周期的概念来描述整个数据从产生到消失的全过程。我们计划对数据生命周期进行严谨的定义,最好能够涵盖市面上所有关于数据生命周期的理解,以提供更准确的认识。你还计划介绍各种可能遇到的问题,并提供解决方案。这部分的高级内容将会分散在其他教程中,比如爬虫教程和数据分析教程等。在这个数据工程教程中,你的重点将是讲解工程问题以及如何解决这些问题。
2214

2315
% 系统
2416

25-
现在我们放开之前的假设,假设在一个团队中有多个具有相同知识背景的人一起协作完成一个项目。我们需要考虑整个流程,并进行梳理。
26-
27-
在这种情况下,团队中的不同人员需要进行协作,比如我和我的合伙人一起合作完成项目。为了实现协作,我们需要工具和方法来观察整个项目的进展,进行编排等。同时,可能还会遇到分析师和工程师之间的沟通障碍等复杂情况。
28-
29-
因此,团队成员之间的协作需要通过一定的方式来完成。与之前的假设相似,这种协作中也需要考虑可观测性、编排等工具,以及解决分析师和工程师之间可能出现的障碍。
30-
总体来说,你的目标是在团队中实现多人协作,将不同的角色和知识背景融合在一起完成项目。这种情况下,需要关注协作工具和方法,以确保项目的顺利进行。
17+
现在我们放开之前的假设,假设在一个团队中有多个具有相同知识背景的人一起协作完成一个项目。我们需要考虑整个流程,并进行梳理。在这种情况下,团队中的不同人员需要进行协作,比如我和我的合伙人一起合作完成项目。为了实现协作,我们需要工具和方法来观察整个项目的进展,进行编排等。同时,可能还会遇到分析师和工程师之间的沟通障碍等复杂情况。因此,团队成员之间的协作需要通过一定的方式来完成。与之前的假设相似,这种协作中也需要考虑可观测性、编排等工具,以及解决分析师和工程师之间可能出现的障碍。
3118

3219
% 管理
3320

34-
实际的工程中,人是会犯错的,而小错误经常会带来灾难性的后果。在实际工程中,即使我们对领域非常熟悉,如果不遵守一些严谨的过程,项目的质量也会受到影响。这就是为什么工程管理非常重要的原因。
35-
36-
在工程项目中,遵循一定的流程和规范可以确保工作的质量和效率。比如按照先开发、再测试、再上线、再触发、再运行、再监控的流程进行工作,可以帮助我们在每个阶段都进行必要的检查和验证,发现和解决问题,并提高项目的稳定性和可靠性。
37-
38-
工程管理的目标是提供一个严谨的流程,确保工作能够按照规范和标准进行,从而减少错误和风险,并提高项目的质量和可靠性。它涉及到项目计划、资源分配、进度控制、质量管理、风险管理等方面的工作,以确保项目的顺利进行和成功交付。
21+
实际的工程中,人是会犯错的,而小错误经常会带来灾难性的后果。在实际工程中,即使我们对领域非常熟悉,如果不遵守一些严谨的过程,项目的质量也会受到影响。这就是为什么工程管理非常重要的原因。在工程项目中,遵循一定的流程和规范可以确保工作的质量和效率。比如按照先开发、再测试、再上线、再触发、再运行、再监控的流程进行工作,可以帮助我们在每个阶段都进行必要的检查和验证,发现和解决问题,并提高项目的稳定性和可靠性。工程管理的目标是提供一个严谨的流程,确保工作能够按照规范和标准进行,从而减少错误和风险,并提高项目的质量和可靠性。它涉及到项目计划、资源分配、进度控制、质量管理、风险管理等方面的工作,以确保项目的顺利进行和成功交付。
3922

4023
% 考虑跨组织共享
4124

0 commit comments

Comments
 (0)