揭秘大数据 | 23、软件定义网络

软件定义网络将网络的边缘从硬件交换机推进到了服务器里面,将服务器和虚拟机的所有部署、管理的职能从原来的系统管理员+网络管理员的模式变成了纯系统管理员的模式,让服务器的业务部署变得简单,不再依赖于形态和功能各异的硬件交换机,一切归软件控制,从而实现自动化部署这就是网络虚拟化在数据中心中最大的价值所在,也是大家明知商品现货服务器的性能远远比不上专用硬件交换机,但还是使用网络虚拟化技术的根本原因。

甚至可以说软件定义网络概念的提出,在很大程度上是为了解决数据中心里面虚拟机部署复杂的问题。云计算是软件定义网络发展的第一推动力,而软件定义网络为网络虚拟化、软件定义和云计算提供了强有力的自动化手段

数据中心作为IT资源的集中地,是数据计算、网络传输、存储的中心,为企业和用户的业务需求提供IT支持。

网络作为提供数据交换的模块,是数据中心中最为核心的基础设施,并直接关系到数据中心的性能、规模、可扩展性和管理性。

随着云计算、物联网、大数据等众多技术和应用的空前发展及智能终端的爆炸式增长,以交换机为代表的传统网络设备为核心的数据中心网络已经很难适应企业和用户对业务和网络快速部署、灵活管理和控制以及开放协作的需求,网络必须能够像用户应用程序一样可以被定制和编程,这也是软件定义网络要做的事。

软件定义网络的出现对IT产业乃至科技界的各个方面产生了巨大的影响,甚至在一定程度上重新划分了当今的IT生态利益格局。对网络用户,特别是互联网厂商和电信运营商而言,软件定义网络意味着网络的优化和高效的管理,可以用于提高网络的智能性和管控能力,大幅降低网络建设与运维成本,还可以促进网络运营商真正开放底层网络,大大推动互联网业务应用的优化和创新。

一方面,软件定义网络的兴起为产业注入了新的活力,带来了新的需求和增长点。传统厂商可以抓住软件定义网络的机遇扩大市场,增加收入和利润。

另一方面,软件定义网络意味着目前网络设备软硬件一体的架构将被打破,软硬件解耦,网络设备只负责数据的转发,这样会让网络设备愈发标准化、低廉化,网络功能将逐渐由软件实现,设备利润转移到软件领域,传统厂商的传统地盘和利益将会受到威胁。

在这种背景下,传统厂商对软件定义网络的态度各不相同,有的是处于观望甚至是抵制的态度,有的则是积极探索软件定义网络相关技术和产品,利用自己的地位制订标准,掌握话语权,并准备在合适的时候收购一些初创厂商,继续维护自己的领地。

和软件定义存储一样,在软件定义网络中,首先要实现管理接口与数据读写分离。由软件定义的不仅仅是网络的拓扑结构,还包含层叠的结构。前者可以利用开放的网络管理接口(如OpenFlow)来完成,后者则可以是基于VXLAN的层叠化虚拟网络。

软件定义网络可以用图1所示的逻辑架构来定义,一个软件定义网络中包含3个架构层级。

图1:软件定义网络的逻辑架构


(1)数据平面

数据平面主要由网络设备,即支持南向协议的软件定义网络交换机组成。这些交换机可以是物理交换机或者虚拟交换机,它们保留了传统网络设备数据转发的能力,负责基于流表的数据处理、转发和状态收集。

在当前软件定义网络方案中,供应商只是把应用和控制器作为单独产品提供,例如,Nicira/VMware公司将其应用和控制器打包到了一个单独的专属应用堆栈中,思科公司则通过把控制器嵌入互联网操作系统(Internetwork Operating System,IOS)软件的方式把控制器打包到了OnePK产品中。

(2)控制平面

控制平面主要包含控制器及网络操作系统,负责处理数据平面资源的编排,维护网络拓扑、状态信息等。控制器是一个平台,该平台向下可以直接使用OpenFlow协议或其他南向接口与数据平面会话;向上为应用层软件提供开放接口,用于应用程序检测网络状态、下发控制策略。大多数的软件定义网络控制器提供图形界面,这样可以将整个网络以可视化的效果展示给管理员。

(3)应用平面

顶层的应用平面由众多应用软件构成,这些软件能够根据控制器提供的网络信息执行特定控制算法,并将结果通过控制器转化为流量控制命令,下发到基础设施层的实际设备中。

事实上,应用平面是软件定义网络最吸引人的地方,其原因是软件定义网络实现了应用和控制的分离,开发人员可以基于控制器提供的API来自定义网络,只需专注于业务的需求,而不需要像传统方式那样从最底层的网络设备开始部署应用。

这大大简化了应用开发的过程,而且大部分软件定义网络控制器向上提供的API是标准化、统一化的,这使得应用程序不用修改就可以自由在多个网络平台移植。

软件定义网络控制器与网络设备之间通过专门的控制面和数据面接口连接,这一系列接口是支持软件定义网络技术实现的关键,我们接下来分别对北向接口、南向接口、东西向接口这三大类接口结构进行简述。

北向接口:

是软件定义网络控制器和应用程序、管理系统和协调软件之间的应用编程接口,是通过控制器向上层业务应用开放的接口,使业务应用能够便利地调用底层的网络资源和能力。通过北向接口,网络业务的开发者能以软件编程的形式调用各种网络资源,同时上层的网络资源管理系统可以通过控制器的北向接口全局把控整个网络的资源状态,并对资源进行统一调度。比如OpenStack项目中的Neutron(Quantum)API就是一个典型的北向接口,通过与多种软件定义网络控制器集成对外开放,租户或者应用程序可以利用这组接口来自定义网络、子网、路由、QoS、VLAN等,并且可以通过这些接口查看当前网络的状况。

当前的北向接口并没有完全统一的标准,所用标准更多的是跟平台相关。软件定义网络的相关组织正致力于定义统一规范的北向接口。ONF执行总监Dan Pitt曾经指出,可开发一种标准北向接口,但要通过一定规范来控制其潜在用途,供网络运营商、厂商和开发商使用。

北向接口的设计对软件定义网络的应用有着至关重要的作用,其原因是这些接口是被应用程序直接调用的。应用程序的多样性和复杂性对北向接口的合理性、便捷性和规范性有着直接的要求,这也直接关系到软件定义网络能否获得广泛应用。

南向接口:

南向API或协议是工作在最底层(交换ASIC或虚拟机)和中间层(控制器)之间的一组API或协议,主要用于通信,允许控制器在硬件上安装控制平面决策,从而控制数据平面,其中包括链路发现、拓扑管理、策略制定、表项下发等。这里的链路发现和拓扑管理主要是控制器利用南向接口的上行通道对底层交换设备上报的信息进行统一监控和统计,策略制定和表项下发则是控制器利用南向接口的下行通道对网络设备进行统一控制。

OpenFlow是最为典型的南向协议。OpenFlow定义了非常全面和系统的标准来控制网络,因而是目前最具发展前景的南向协议,也是获得支持最多的网络协议,甚至有人将OpenFlow认为是软件定义网络。此处省略一万字,未来老夫将会在后面部分对OpenFlow进行更详细的介绍。

还有其他一些南向通信实现方式正在研究中,比如VXLAN。VXLAN记录了终端服务器或虚拟机的详细框架,并把终端站地图定义为网络。VXLAN的关键假设是交换网络(交换机、路由器)不需要指令程序,而是从软件定义网络控制器中提取。VXLAN对软件定义网络的定义是通过控制虚拟机,以及用软件定义网络控制器定义基于这些虚拟机通信的域和流量而实现的,并不是对以太网交换机进行编程。

东西向接口:

软件定义网络发展过程中面临的一个问题是控制平面的扩展性,也就是多个设备的控制平面之间如何协同工作。这涉及软件定义网络中控制平面的东西向接口的定义问题,如果没有定义东西向接口,那么软件定义网络充其量只是一个数据设备内部的优化技术,不同的软件定义网络设备之间还要还原为IP(路由协议)进行互联,其对网络架构创新的影响力就十分有限。

如果能够定义控制平面标准的东西向接口,就可以实现软件定义网络设备“组大网”​,使软件定义网络技术走出IDC内部和数据设备内部,成为一种能产生革命性影响的网络架构。目前对软件定义网络东西向接口的研究还刚刚起步,IETF和ITU均未涉及这个研究领域。通常软件定义网络控制器通过控制器集群技术(比如Hazelcast技术)解决这个问题,控制器集群能提供负载均衡和故障转移,提高控制器的可靠性。

软件定义网络的出现打破了传统网络设备制造商独立且封闭的控制面结构体系,将改变网络设备形态和网络运营商的工作模式,对网络的应用和发展将产生直接影响。从技术层面和应用层面来看,软件定义网络的特点主要体现在以下几个方面:

(1) 数据平面与控制平面分离,在控制平面对网络集中控制。

通过控制平面功能的集中以及数据平面和控制平面之间的接口规范实现对不同厂商的设备进行统一、灵活、高效的管理和维护。数据平面和控制平面分离且支持集中控制,就是把原来IP网络设备上的路由控制平面集中到一个控制器上,网络设备根据控制器下发的控制表项进行转发,自身不具备太多智能性。

(2)网络接口开放。

网络开放是软件定义网络技术的本质特征,是目前软件定义网络主要价值的体现。软件定义网络通过北向接口开放给应用程序,应用和业务可以通过调用API获取网络的能力,实现业务和网络的精密融合;通过南向接口的开放实现网络控制平面和数据平面的分离,使不同厂商的设备可以兼容;通过对东西向接口的开放实现控制平面的扩展,使多个控制器协同工作,提高控制器的可用性。

(3)实现网络的虚拟化。

软件定义网络利用以网络叠加技术为代表的网络封装和隧道协议,让逻辑网络摆脱物理网络隔离,实现物理网络对上层应用的透明化。

逻辑网络和物理网络分离后,逻辑网络可以根据业务需要进行配置、迁移,不再受设备具体地理位置的限制。同时,逻辑网络还支持多租户共享,支持租户网络的定制需求。

目前,网络虚拟化主要用于数据中心。近年来,数据中心的虚拟网络设备的代表vSwitch、vRouter、vFirewall等产品都是在通用服务器虚拟机平台上,通过软件的方式模拟实现传统设备功能,从而实现灵活的设备能力,带来了便捷的部署和管理。网络虚拟化将传输、计算、存储等能力融合,在集中式控制的网络环境下,有效调配网络资源,支持业务目标的实现和用户需求,提供更高的网络效率和良好的用户体验。

(4)支持业务的快速部署,简化业务配置流程。

传统网络由于网络和业务割裂,大部分网络的配置是通过命令行或者网络管理员手工配置的。由于本身是一个静态的网络,当遇到需要网络及时做出调整的动态业务时,传统网络就显得非常低效,甚至无法实施。

软件定义网络的集中控制和可编程能力使得整个网络可在逻辑上被视为一台设备进行运行和维护,无须对物理设备进行现场物理分散配置;开放的API使用户业务可以利用编排工作流实现业务部署和业务调整的自动化实施,这些可以让用户业务的部署和调整摆脱手工分散配置的约束,降低设备配置风险,提高网络部署的敏捷性。

用户个性化定制业务的实现为网络运营商提供了便捷的业务创新平台,软件定义网络的核心是软件定义,其本质是网络对业务的快速灵活响应和快速业务创新。网络虚拟化包括物理网络和虚拟机网络的虚拟化。

物理网络可能包含网络适配器、交换机、路由器、网桥、中继器和集线器,提供运行虚拟机管理程序的物理服务器之间的连接、物理服务器与客户端之间的连接,以及物理服务器与存储系统之间的连接。

虚拟机网络驻留在物理服务器中,包括被称为虚拟交换机的逻辑交换机,其功能与物理交换机类似。虚拟机网络可实现物理服务器中虚拟机之间的通信。例如,某个运行业务应用程序的虚拟机可能需要通过防火墙服务器对其流量进行筛选,而该服务器可能是同一台物理服务器中的另一个虚拟机。通过虚拟机网络对这些虚拟机进行内部连接是非常有益的,而通过物理网络连接它们将增加虚拟机流量的时延,因为流量需要经过外部物理网络。

网络虚拟化如图2所示。虚拟机管理程序内核连接到虚拟机网络,使用虚拟机网络与管理服务器和存储系统(存储阵列)通信,其中管理服务器可以是在物理服务器中托管的虚拟机。对于驻留在不同物理服务器中的两个虚拟机之间的通信,以及虚拟机与其客户端之间的通信,虚拟机流量必须经过虚拟机网络和物理网络。此外,在虚拟机与物理网络之间传输流量还需要虚拟机管理程序,因此,虚拟机网络必须连接到物理网络。

图2:网络虚拟化

 


与传统数据中心内的联网类似,虚拟数据中心内的联网也需要使用基本构造组件。虚拟数据中心网络基础架构同时包含虚拟组件和物理组件(见图/表3)​,这些组件相互连接以传输网络数据。

图3: 虚拟数据中心网络基础架构 (注:FCoE——Fiber Channel over Ethernet,以太网光纤通道。)

 

网络组件(如虚拟网络接口卡、虚拟主机总线适配器和虚拟交换机)是使用虚拟机管理程序在物理服务器中创建的。虚拟机可以通过虚拟网络接口卡连接到虚拟机网络,它们向/从虚拟机网络发送/接收虚拟机流量。使用虚拟主机总线适配器,虚拟机可以访问为其分配的光纤通道原始设备映射磁盘/LUN。

虚拟交换机用于构成虚拟机网络并支持以太网协议。它们提供与虚拟网络接口卡的连接并转发虚拟机流量。此外,它们还定向与虚拟机管理程序内核之间双向传输管理流量、存储流量和虚拟机迁移流量。

物理适配器(如网络接口卡、主机总线适配器和聚合网络适配器)使物理服务器可以连接到物理网络,它们与物理网络之间双向转发虚拟机流量和虚拟机管理程序流量。

物理网络包含物理交换机和路由器。物理交换机和路由器提供以下连接:物理服务器之间的连接、物理服务器与存储系统之间的连接,以及物理服务器与客户端之间的连接。根据支持的网络技术和协议,这些交换机可定向转发以太网、光纤通道、iSCSI或FCoE的流量。

目前软件定义网络的实现方案中主要有两种:

1)以网络为中心,主要利用标准协议OpenFlow来实现对网络设备的控制。这种方案可以被看成是对传统网络设备(交换机、路由器等)的改造和升级。
 

2)以主机为中心,以网络叠加技术来实现网络虚拟化。这种方案的应用场景主要是数据中心。

我们在这里对这两种软件定义网络实现方案分别进行简单描述:

(1) 以网络为中心的软件定义网络

以网络为中心的软件定义网络的技术核心是OpenFlow。OpenFlow最早由斯坦福大学提出,是一种通信协议,用来提供对网络设备(如交换机和路由器)的数据转发平面进行访问控制。OpenFlow旨在基于现有的TCP/IP技术条件,以创新的网络互联理念解决当前架构在面对新的网络业务和服务时所产生的各种瓶颈。

OpenFlow的核心思想很简单,就是将原本完全由交换机/路由器控制的数据包转发过程转化为由控制服务器和OpenFlow交换机分别完成的独立过程。也就是说,使用OpenFlow的网络设备能够分布式部署、集中式管控,使网络具有软件可定义的形态,能够进行定制、快速建立和实现新的功能与特征。

基于OpenFlow的软件定义网络架构主要包括基础设施层、控制层和应用层,如图4所示。基础设施层代表网络的底层转发设备,包含特定的转发面抽象。控制层集中维护网络状态,并通过南向接口(如OpenFlow)获取底层网络设备信息,同时为应用层中的各种业务应用提供可扩展的北向接口。

图4 : 基于OpenFlow的软件定义网络架构

 

网络智能在逻辑上被集中在基于软件方式的软件定义网络控制器中,它维护着网络的全局视图,因此,对于应用来说,网络类似于一个单一的、逻辑上的交换机。利用软件定义网络,企业和运营商能够从一个单一的逻辑节点获得独立于设备供应商的对整个网络的控制,从而大大简化网络设计和操作。由于不再需要理解和处理各种不同的协议标准,只是单纯地接收来自软件定义网络控制器的指令,网络设备自身也能够得到极大的简化。

网络管理员能够以编程方式自动化配置网络抽象,而不用手动配置数目众多的分散的网络设备。另外,通过利用软件定义网络控制器的集中式智能,IT部门可以实时改变网络行为,可以在数小时或者数天内部署新的应用和网络服务,而不是像现在一样需要数周或者几个月的时间。通过将网络状态集中到控制层,软件定义网络利用动态和自动的编程方式为网络管理者提供了灵活的配置、管理、保护和优化网络资源的方式,而且管理员可以自己编写这些程序,而不用等待新功能被嵌入供应商的设备和网络的封闭软件环境之中。

除提供对网络的抽象之外,软件定义网络架构还支持通过API实现那些通用网络服务,其中包括路由、多播、访问控制、带宽管理、流量规划、QoS、处理器和存储资源优化、能源使用,以及所有形式的策略管理和商业需求定制。例如,软件定义网络架构可以很容易在校园的有线网络和无线网络中定义和实施一致的管理策略。

同样,软件定义网络也使通过智能编排和配置系统来管理整个网络变成了可能。ONF正在研究如何通过开放API促进多供应商管理方式。在这种方式中,用户可以实现资源按需分配、自助服务管理、虚拟网络构建以及安全的云服务。

(2)以主机为中心的软件定义网络

以主机为中心的软件定义网络实现方案是为了满足云计算时代的数据中心对网络服务交付能力的要求而设计的。

实际上,在所有的网络环境中,数据中心是最早遭遇到网络束缚的地方。数据中心作为互联网内容和企业IT的仓储基地,是信息存储的源头。

为了满足日益增长的网络服务需求,特别是互联网业务的爆发式需求,数据中心逐渐向大型化、自动化、虚拟化、多租户等方向发展。传统的网络架构处于静态的运作模式,在网络性能和灵活性等诸多方面遭遇到挑战。数据中心为了适应这种变化只能疲于奔命,不断对物理网络设施升级改造,增加IT设施投资来提高服务水平,这使得网络环境更加复杂、更难控制。各种异构的、不同协议的网络设备之间的兼容性和互通性令人望而生畏;不同设置间分散的控制方法让网络的部署更困难,这也给数据中心增加了巨大的经济成本和时间成本。在这种背景下,数据中心对软件定义网络技术有最直接的需求,这也是软件定义网络技术发展的最直接动力。

以主机为中心的软件定义网络将控制平面和数据平面分离,将设备或服务的控制功能从其实际执行中抽离出来,为现有的网络添加编程能力和定制能力,使网络有弹性、易管理且有对外开放的能力。数据平面则不改变现有的物理网络设置,利用网络虚拟化技术实现逻辑网络。

在控制层面上,以主机为中心的软件定义网络实现方案提供了集中化的控制器,使传统交换设备中分散的控制能力集中化。除了完成软件定义网络控制器的南向、北向及东西向的功能,集中化的控制器通常还作为数据中心的一个模块或一个单独的组件,支持和其他多种管理软件的集成(如资源管理、流程管理、安全管理软件等)​,从而将网络资源更好地整合到整个IT运营中。

数据平面主要以网络叠加技术为基础,以网络虚拟化为核心。这种方式不改变现有的网络,但是在服务器Hypervisor层面增加一层虚拟的接入交换层来提供虚拟机间快速的二层互通隧道。通过在共享的底层物理网络基础、创建逻辑上彼此隔离的虚拟网络,底层的物理网络对租户透明,使租户感觉自己是在独享物理网络。网络叠加技术将数据中心的网络从二层网络的限制中解放了出来,只要IP能到达的地方,虚拟机就能够部署、迁移,网络服务就能够交付。

网络叠加技术指的是一种在网络架构上叠加的虚拟化技术模式,其大体框架是在基础网络不进行大规模修改的条件下,实现应用在网络上的承载,并能与其他网络业务进行分离。

其实这种模式是对传统技术的优化而形成的。早期的就有支持IP之上的二层Overlay技术,如RFC 3378。基于Ethernet over GRE的技术,新华三集团(H3C)与思科公司都在物理网络的基础上发展了各自的私有二层Overlay技术——以太网虚拟化互联(Ethernet Virtual Interconnection,EVI)与重叠传输虚拟化(Overlay Transport Virtualization,OTV)。EVI与OTV主要用于解决数据中心之间的二层互联与业务扩展问题,并且对承载网络的基本要求是IP可达,在部署上简单且扩展方便。

在技术上,网络叠加技术可以解决目前数据中心面临的3个主要问题:

(1) 虚拟机迁移范围受网络架构限制的问题。

网络叠加是一种封装在IP报文之上的新的数据格式,因此,这种数据可以通过路由的方式在网络中分发,而路由网络本身并无特殊网络结构限制,具备大规模扩展能力,并且对设备本身无特殊要求,以高性能路由转发为佳。同时,路由网络本身具备很强的故障自愈能力、负载均衡能力。采用网络叠加技术后,企业部署的现有网络便可用于支撑新的云计算业务,改造难度极低(除了性能可能是考量因素外,技术上对承载网络并无新的要求)​。

(2) 虚拟机规模受网络规格限制的问题。

虚拟机数据封装在IP数据包中后,对网络只表现为封装后的网络参数,即隧道端点的地址,因此,对于承载网络(特别是接入交换机)而言,MAC地址规格需求极大降低,最低规格也就是几十个(每个端口一台物理服务器的隧道端点MAC)​。当然,对核心网关处的设备表项(MAC/ARP)要求依然极高,当前的解决方案仍然是采用分散方式,通过多个核心网关设备来分散表项的处理压力。

(3)网络隔离/分离能力限制的问题。

针对VLAN数量在4096以内的限制,网络叠加技术中引入了类似于VLAN ID的用户标识,支持千万级以上的用户标识,并且在Overlay中沿袭了云计算“租户”的概念,称之为租户标识,其长度为24bit或64bit。

在网络叠加技术领域,IETF目前主要有以下三大类技术路线,它们的比较见图/表5:

图 /表 5 : IETF三大类技术路线比较

 

(1)虚拟扩展局域网VXLAN。

(2)使用通用路由封装网络虚拟化(Network Virtualization Using Generic Routing Encapsulation,NVGRE)。

(3)无状态传输隧道(Stateless Transport Tunneling,STT)。

以上3种二层网络叠加技术的大体思路均是将以太网报文承载到某种隧道层面,差异性在于选择和构造隧道的不同,而底层均是IP转发。

对于现网设备而言,VXLAN和STT对流量均衡要求较低,即负载链路负载分担适应性好,一般的网络设备都能对L2(第二层)~L4(第四层)的数据内容参数进行链路聚合或等价路由的流量均衡,NVGRE则需要网络设备对GRE扩展头感知并对flow ID进行Hash,并需要硬件升级;STT对TCP有较大修改,隧道模式接近UDP性质,隧道构造技术属于革新性的,且复杂度较高。VXLAN则利用了现有通用的UDP传输,成熟性极高。总体比较,VXLAN技术相对另外两种技术具有一定优势。

软件定义网络将网络的边缘从硬件交换机推进到了服务器里面,将服务器和虚拟机的所有部署、管理的职能从原来的系统管理员+网络管理员的模式变成了纯系统管理员的模式,让服务器的业务部署变得简单,不再依赖于形态和功能各异的硬件交换机,一切归软件控制,从而实现自动化部署。这就是网络虚拟化在数据中心中最大的价值所在,也是大家明知商品现货服务器的性能远远比不上专用硬件交换机,但还是使用网络虚拟化技术的根本原因。甚至可以说软件定义网络概念的提出,在很大程度上是为了解决数据中心里面虚拟机部署复杂的问题。云计算是软件定义网络发展的第一推动力,而软件定义网络为网络虚拟化、软件定义和云计算提供了强有力的自动化手段。

网络叠加技术作为软件定义网络在数据平面的实现手段,解决了虚拟机迁移范围受网络架构限制、虚拟机规模受网络规格限制、网络隔离/分离能力限制等问题。同时,各种支持网络叠加的协议、技术正不断演进,VXLAN作为一种典型的叠加协议,最具有代表性,而且Linux内核3.7已经加入了对VXLAN协议的支持。另外,除了本小节介绍的VXLAN、NVGRE、STT,一个由IETF提交的网络虚拟化叠加(NVo3草案也在讨论之中;各大硬件厂商都在积极参与标准的制定,研发支持网络叠加协议的网络产品,这些都在推动着软件定义网络技术的进步。

(文/Ricky - HPC高性能计算与存储专家、大数据专家、数据库专家及学者)

· END ·

相关推荐

一场人工智能革命:Graph XAI图增强智能

中国数据库技术迎来关键转型期。从20世纪60年代美国开发首个网状数据库,到Oracle等传统数据库长期主导市场,当前技术架构正面临智能化时代的全新挑战。传统架构难以满足大数据量、复杂场景和强计算需求,亟需突破性创新。图增强智能(Graph+AI)成为突破方向,通过融合图计算引擎与图算法,构建高维关联数据模型,解决传统数据库的数据孤岛问题和AI模型黑盒化困境。这一创新技术体系为企业提供可解释、低成本、高维度的智能解决方案,推动数据库技术向智能化时代迈进。

Ultipa的博客 677

查询语言的进化:SQL之后,为什么是GQL?数据世界正在改变

摘要:随着数据复杂度提升,ISO于2024年正式发布GQL国际标准,标志着图查询语言进入新时代。由嬴图团队推出的全球首部GQL权威指南《Getting Started with GQL》系统阐述了语法逻辑与实战应用,帮助开发者突破传统表格思维,建立关系导向的图数据思维。该书通过社交网络、智能推荐等场景案例,展现了GQL处理复杂关系的优势,为把握下一代数据技术趋势提供专业指导。GQL的标准化将如同当年SQL推动关系型数据库发展一样,重塑以关系为核心的数据应用生态。

Ultipa的博客 964

图观 | 虚拟币洗钱 170 亿,监管遇挑战?技术破局

在金融科技飞速发展的当下,虚拟货币市场的复杂性与日俱增。早在 2003 年 7 月,山东成功破获一起涉及韩国境内外特大虚拟货币钱庄案,虚拟货币的介入,彻底颠覆了传统地下钱庄的运作模式,凸显了虚拟货币交易的隐蔽性与监管难度。时过境迁,虚拟货币市场持续扩张,其引发的风险也越发受到全球关注。

Ultipa的博客 1345

玩游戏只看打斗?藏在背后的图数据库,才是真・关系网操盘手

家人们,现在游戏行业卷得连数据库都得内卷了!你在《黑神话》里砍的每只怪、捡的每件装备、跟 NPC 唠的每句嗑,背后都有不同数据库在疯狂打工。但今天咱不聊那些听腻了的,来整点冷知识 —— 就拿火到出圈的《黑神话:悟空》来说,你以为那些神仙鬼怪的关系网、任务线的弯弯绕绕是咋捋顺的?这里就得请出 “图数据库” 这位隐藏大佬了!这玩意儿听起来像搞拓扑学的,实际上在游戏里可太有用了:比如悟空跟各路神仙的恩怨情仇、地图里藏着的 N 条隐藏路径、甚至不同怪物之间的仇恨链,全靠它把这些错综复杂的关系网打理得明明白白。

Ultipa的博客 865

揭秘图存储: 从 0 到 1 读懂图存储,它凭什么成了复杂关系的克星

图存储是专门用于存储图结构数据的存储引擎,其核心在于高效管理节点、边及其属性。相比传统SQL数据库,图存储在复杂关系查询方面具有显著优势:SQL处理多层级关系需多次表关联,效率低下;而图存储通过原生结构设计,可直接沿关系链查询,速度提升上千倍。

Ultipa的博客 1478

沸点 | 嬴图参加世界人工智能大会

大会期间,嬴图创始人兼CEO孙宇熙与来自全球的顶尖学者、企业代表共同探讨人工智能的发展趋势与挑战,并现场分享了嬴图-Graph XAI 在提升大模型可解释性、准确性与运行速度上的突破性实践,为行业带来全新解决方向,引发与会者的广泛关注与热烈讨论。数据库技术作为和芯片、操作系统并列的三大基础性技术,是数字化系统的底座,尤其是智能化应用对累积的全量数据的极限需求,在数据的管理、承载、处理、应用,以及在性能、安全、成本、体验等方面都提出了全新的技术要求。大会展览面积突破 7 万平方米,800 余家企业参展。

Ultipa的博客 292

AI Agent 破局点:告别“装懂”,学会真正“思考”

前两年还冷清的赛道,如今被Agent 的热潮彻底点燃:资本的钱袋子如逐浪的鱼群疯狂涌来;各类赛事、论坛也都围绕着它搭台唱戏;搞技术的则像给“新玩具”装零件,忙着套框架、加工具、写 prompt…… 仿佛这不是一个技术概念,而是能打开所有门的万能钥匙,似乎谁慢一步,就要错过下一个技术革命风口……冷热之间,只差一个 Agent 的距离……

Ultipa的博客 729

图计算怎么用?从数据到关系的魔力

传统数据库架构以存储为中心,计算通常是依附存储引擎而存在的;而在图数据库中,因为要解决高性能计算、复杂遍历查询计算的效率问题,所以图计算的重要性不言而喻!

Ultipa的博客 1264

图计算如何为万物互联时代搭建智能 “解码中枢”?

图数据库(图计算)应对的是当今一个宏观商业世界的大趋势,它凭借对海量、复杂、动态的数据的挖掘、分析和关联而获得洞察力。事实上,虽然其本身还无法在短时间内完全替换那些已经被用户充分认识和使用的数据平台,但市场对该技术的需求在不断激发着图数据库(图计算)的内生动力。

Ultipa的博客 871

数据驱动 AI 时代:数据库行业的技术跃迁与生态重构

模型不是重点,数据才是关键

Ultipa的博客 925

云计算与大数据进阶 | 29、一文读懂SOA:像搭乐高一样搭建软件系统

本文介绍了面向服务的体系结构(SOA)的核心概念及其在现代IT架构中的应用。

Ultipa的博客 1628

云计算与大数据进阶 | 28、存储系统如何突破容量天花板?可扩展架构的核心技术与实践—— 分布式、弹性扩展、高可用的底层逻辑(下)

本文深入探讨了存储系统可扩展架构中的SAN系统和统一存储系统的扩展性技术。文章指出这些技术相互协作,为应对云计算、大数据时代的海量数据存储需求提供了坚实基础,未来仍需持续创新以突破存储容量限制。

Ultipa的博客 1766

云计算与大数据进阶 | 27、存储系统如何突破容量天花板?可扩展架构的核心技术与实践—— 分布式、弹性扩展、高可用的底层逻辑(上)

数据中心里,存储系统是至关重要的组成部分。由于相关硬件组件与存储操作系统的多样性和复杂性,如何在保证存储稳定、安全、可靠的同时,实现灵活扩展和自服务,一直是困扰数据中心全面云化的难题。简单来说,现在的难题就在于:硬件和软件的复杂性导致存储系统像一堆零散的积木,拼起来费劲,改起来更麻烦,而云化又需要它像变形金刚一样,既能随时调整结构,又能稳稳当当不出错。那么,如何把这些零散的积木变成一个灵活又可靠的整体,就成了数据中心全面云化必须要跨过的一道坎。

Ultipa的博客 1741

云计算与大数据进阶 | 26、解锁云架构核心:深度解析可扩展数据库的5大策略与挑战(下)

领导者(Leader):唯一写入口,负责生成事务编号(ZXID)、广播消息;跟随者(Follower):接收并执行 Leader 的指令,参与选举。

Ultipa的博客 1391

沸点 | 从 “黑箱” 到 “透明”:嬴图图增强智能技术入榜中关村前沿科技大赛——解码 AI可解释性的产业落地路径

近日,第八届中关村国际前沿科技大赛人工智能领域赛在中关村东升国际科学园圆满收官。在这场汇聚全球顶尖 AI 创新力量的巅峰对决中,嬴图凭借 “图增强智能 XAI 系统” 从 全球 200 余个参赛项目中突出重围,荣膺人工智能领域 TOP10榜单,成为本届大赛国际化舞台上技术创新性与商业化潜力兼具的标杆案例。

Ultipa的博客 806

云计算与大数据进阶 | 26、解锁云架构核心:深度解析可扩展数据库的5大策略与挑战(上)

在云应用/服务的 5 层架构里,数据库服务层稳坐第 4 把交椅,堪称其中的 “硬核担当”。它的复杂程度常常让人望而生畏,不少人都将它视为整个架构中的 “终极挑战”。不过,也有人觉得可扩展存储系统才是最难啃的 “硬骨头”,其实这场关于谁更复杂的争论没有标准答案,很大程度上取决于具体的业务应用模式(就可扩展存储系统,老夫打算在后续的文章中具体再聊)。

Ultipa的博客 2039

回答 | 图形数据库neo4j社区版可以应用小型企业嘛?

此外,系统在运算每一个查询时所需的时间、空间复杂度的问题也是存在的,因为图查询经常是高维的、递归的、单一的复杂查询请求(例如查询某个顶点的全部多步邻居集合,或两个顶点间的全部最短路径数量),如果每一步的复杂度都较高,那么整体的查询复杂度就会呈指数级升高,直至系统失控(内存溢出、死机或无法返回)。这中,还有一个留给大家思考,这也是开源社区都要面对和思考的,一款优异的产品特别是新产品,如果有明确的商业化道路可以遵循,那么还有什么理由去打造一个开源的版本,使其性能、功能与商业版本没有差异呢?

Ultipa的博客 1474

沸点 | 嬴图入选 2025年度 DataTech50 榜单

双年入选,引领科技

Ultipa的博客 517

云计算与大数据进阶 | 25、可扩展系统构建

缓存服务层的扩展性实现在避免出现单点失效的基础之上,单个节点的缓存服务器/应用服务器共享节点的方式在生产环境中都是不可取的,主要问题是如何实现多缓存节点间的负载均衡。需要指出的是,系统扩展性不能是以牺牲性能为前提的,如我们在前面的文章中讨论过的,横向扩展的系统在简单、浅层查询的高并发场景中有优势,但是在复杂、深层查询的场景中,垂直扩展的系统更具优势,因此,系统扩展过程中通常是纵向扩展与横向扩展兼而有之的。此外,还有一个问题是基于纵向扩展设计的系统的瓶颈性显而易见,因此纵向扩展的扩展性能甚为堪忧。

Ultipa的博客 1683

揭秘大数据 | 24、资源管理、高可用与自动化

比资源管理更贴近最终用户的是一系列的服务,正如软件定义数据中心分层模型(见图3-25)所示,这些服务可以是普通的邮件服务、文件服务、数据库服务,也可以是针对大数据分析的Hadoop集群等服务。业界通常将5个9以上的系统称为零死机时间系统——颇具讽刺意味的是,某公有云厂商动辄鼓吹自己的系统和服务达到11个9的可用性,但是一根光纤断了、一个服务接口的故障就可以导致整个机房下线数天。最常见的高可用集群是两节点的集群,包括主节点与冗余节点各一个,也就是100%的冗余率,这也是集群构建的最小规模。

Ultipa的博客 1022

揭秘大数据 | 22、软件定义存储

需要指出的是,无论是安全还是管理与编排,它们整体的发展都是朝着大数据、快数据、流数据的方向进行,相关系统的体系架构也一定是朝着分布式、并行式的云计算架构方向前进,这其中对网络(负责数据的迁移)​、计算(负责通过对数据的计算、分析得出信息与智能)以及存储(负责数据最终的存储与管理)具有天然的需求。主流的软件定义存储技术方案通常对数据管理与数据读写进行分离,由统一的管理接口与上层管理软件交互,而在数据交互方面可以兼容各种不同的连接方式,这种方式可以很好地与传统的软硬件环境兼容,从而避免“破坏性”的改造。

Ultipa的博客 1284

揭秘大数据 | 21、软件定义计算

我们有理由相信,假以时日,容器技术的作为会更大,不过在相当长的一段时间内容器技术更侧重于第三平台的应用,特别是无状态类应用与服务。图8展示了从容器到统一内核的精简过程,很显然,统一内核缩减了操作系统内核的足印,也简化了每个容器化应用对底层的依赖关系,由此带来了更快的部署、更高的迁移运行速度。容器计算是软件定义计算虚拟化的新锐势力,它与虚拟机技术的最大区别在于不需要虚拟化整个服务器的硬件栈,而是在操作系统层面对用户空间进行抽象化,因此我们称其为操作系统级虚拟化,以区别于之前的基于硬件虚拟化的虚拟机技术。

Ultipa的博客 975

揭秘大数据 | 20、软件定义数据中心

还有传统的硬件提供商英特尔公司,作为主要的硬件厂商之一,为了满足巨型的、可扩展的、自动管理的未来数据中心的需要,英特尔公司也提出了自己全新架构的硬件——机柜式架构(Rack Scale Architecture,RSA)。从VMware公司在2006年发布成熟的面向数据中心的VMware Server产品到如今,不仅仅是服务器的虚拟化经历了从全虚拟化到硬件支持的虚拟化,再到下一代可扩展虚拟化技术的发展,软件定义存储、软件定义网络也迅速发展起来,并成为数据中心中实用的技术。接下来,老夫将分三篇文章,就。

Ultipa的博客 1090

揭秘大数据 | 19、软件定义的世界

主要的资源被虚拟化,这只是实现了软件定义的第一步,这是因为虚拟化在解决大量现有问题的同时,也带来了一些新的挑战。

Ultipa的博客 1394

视频 | 对等关税砸盘,全球市场惨跌,图计算暗藏破局密码

比如这次因为关税原因,众多机构都纷纷抛出手中的产品,抛售之后,机构又得补充保证金,于是像黄金、加密货币这类相对值钱的资产也惨遭抛售,以回笼现金,就连原本盈利的品种也被拖入下跌的漩涡……伴随科技领域日新月异,信息流动、物资流动都达到了前所未有的水平,越来越多的企业参与到全球经济循环中,横贯东西方几个世纪的生产力鸿沟,正在被快速填平。然而,我们也看到了硬币的另一面,在构成世界的复杂逻辑中,“戴尔理论”并不灵验,“修昔底德陷阱”并将长期存在。一旦某一品种价格下跌,与之关联的品种也会殃及池鱼,就容易引发连锁反应。

Ultipa的博客 349

揭秘大数据 | 18、关于流数据管理的那些事儿

老夫之前就讲过,大数据一般被分为就是其中之一。感兴趣的朋友,可以点击以下文章进行温故知新:来自这样一个概念:数据的价值随着时间的流逝而降低,所以在事件发生后需要尽快对其进行处理,最好是在事件发生时就进行处理(即实时处理)​,对事件进行一个接一个的处理,而不是缓存起来进行批处理(如Hadoop)​。在数据流管理中,需要处理的输入数据并不被存储在可随机访问的磁盘或逻辑缓存中,它们以数据流的方式源源不断地到达。①实时性:数据流中的数据实时到达,需要实时处理。②无边界:数据流是源源不断的,大小不定。

Ultipa的博客 1011

揭秘大数据 | 17、MPP 那些事儿

Greenplum是业界第一个开源的MPP数据库,对想要实现OLTP和OLAP一体化大数据分析与管理系统的人来说,这是个天大的好消息。例如在大数据分析和处理中,MPP 数据库可以将数据分布在多个节点上进行并行处理,从而提高处理速度和效率。和MapReduce类似,两者都采用大规模并行处理架构对海量数据进行以大数据分析为主的工作,不同之处在于MPP通常原生支持并行的关系型查询与应用(不过这一点,Hadoop阵营也在逐渐通过在HDFS之上提供SQL查询接口来支持查询,甚至包括关系型查询)​。

Ultipa的博客 698

揭秘大数据 | 16、OLAP 那些事儿

第3个指的是Hadoop的HDFS适用于增加−读取−追加−处理(Create-Read-Append Process,CRAP)类型数据集操作,相对于RDBMS时代的增加−读取−更新−删除(Create Read-Update-Delete,CRUD)类型数据集操作而言,CRAP对已建立的数据集主要为读操作,以及在尾部的添加操作,而不是更新与删除操作,其主要原因是更新与删除操作在分布式系统中通常代价比较高。Hadoop MapReduce是用于分析存储在HDFS之上的大数据的编程框架,它包括库与运行时。

Ultipa的博客 1113

揭秘大数据 | 15、OLTP 的那些事儿

数据中的不同记录可能有不同的属性和格式。当插入数据时,并不需要预先定义它们的模式(如MongoDB,后文中将会介绍)​。NoSQL和传统的关系数据库的对比如图1所示。可以看出,NoSQL数据库无数据清洗,无数据转换,无数据加载,并且在数据存储处进行分析。

Ultipa的博客 1097

嬴图入围银行技术奖总决赛,推动金融科技审计创新​

极大提升了审计工作的效率与质量,精准回应了金融行业数字化转型中对审计服务高效、智能、可解释性的迫切需求,契合金融行业数字化转型中对智能、高效审计服务的需求。近日,金融科技领域再度聚焦于创新力量的角逐,北京/硅谷出身的图数据库领先企业——嬴图,凭借其卓越的技术实力与创新解决方案,成功入围。从英国的荣耀加冕到美国的总决赛入围,嬴图在金融科技奖项领域的持续突破,背后是其对技术研发的执着投入与对行业需求的深刻洞察。,证明了其在图数据库技术与人工智能融合应用方面的领先地位。,通过将复杂的金融交易网络以直观的。

Ultipa的博客 613
上一篇: 揭秘大数据 | 22、软件定义存储
下一篇: 揭秘大数据 | 24、资源管理、高可用与自动化
XAI嬴图
XAI嬴图 嬴图XAI 嬴图XAI
博客等级 码龄6年 1097粉丝 247原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值