咱们为什么要关注业务的IO行为，或者IO拜访模型呢？起因很简略，任何零碎都要关注本人服务的对象，存储系统服务的对象就是下层利用，所以存储的研发离不开对业务行为的剖析和钻研。存储系统的整体设计和架构，是多种因素综合衡量的后果。在存储系统性能达到极限的时候，无论是存储的开发者还是使用者，都想晓得IO的具体表现行为，开发者是为了可能找到瓶颈点，更好地优化存储系统，使用者是为了可能更优地应用存储系统，让业务稳固运行。

常见业务类型的IO特点

咱们先基于几个典型的业务场景，介绍一下这些场景下IO模型的特点。

记录日志

日志文件通常状况都是追加写入，在每一次写之前，都须要调用statfs获取文件大小，以此作为pos（新内容插入地位）写入数据，因而write和statfs的申请比例是1:1。反过来，如果发现在某个客户端的申请统计中发现，write/stat申请比例靠近1:1，根本能够判定，此客户端上的业务基本上是文件的追加写业务。如果面对这种日志IO类型在存储整体拜访中占比比拟高的用户，在须要晋升零碎整体性能时，能够倡议用户扩充日志文件的写入buffer，从而缩小write/stat的申请次数，达到性能优化的成果。

系统命令du/ls

操作系统的几个命令对于分布式文件存储来说，都不是特地敌对，比如说ls/du，尤其是du命令。du命令会调用readdir，获取entry列表，再依此调用statfs获取文件size，如果是目录，还会递归查问统计，因而是多个readdir和多个statfs申请的组合，并且交叉调用，对于多MDS架构的文件系统，通常每个MDS都会解决大量readdir和statfs的申请。ls命令也是readdir和stat的组合，然而跟du不同的是，ls只会统计繁多目录下的stat信息，因而是一个readdir和多个statfs申请。如果日常巡检的时候发现某个MDS负载较高，能够查看该MDS的负载类型，如果都集中在readdir/statfs，那么根本能够判定，有业务在执行零碎统计命令，能够依据申请发送的客户端IP，获取到是哪个客户端发动的申请，进而能够查到是哪个业务触发的零碎指令。

数据库

数据库的读写比例个别合乎二八准则，20%是写，80%为读，在写的时候，以8KB，16KB为主，并且每一个写申请都会附带一个fsync申请和一个fdatasync申请，用来保证数据长久化到存储上，对于采纳buffered cache的分布式文件存储，fsync带来的零碎开销会比拟大，进而导致数据库的写入性能较差，如果用户有数据业务的需要，倡议采纳direct IO的形式。MySQL的存储引擎InnoDB中有一项设置——innodb_flush_method，这项设置负责管制InnoDB写入数据时所应用的零碎调用。咱们会倡议用户采纳O_DIRECT_NO_FSYNC，即只应用O_DIRECT形式，绕过pagecache，将数据间接写入磁盘，并在写操作时跳过fsync()更新日志的元数据信息。在8.0.14版本之后， MySQL会在创立文件、减少文件长度以及敞开文件时主动调用fsync()来更新MySQL文件在文件系统中的元数据信息。

AI训练

大家都晓得，在AI训练过程中，数据90%以上都是读操作，并且是小文件的程序读或大文件的随机读。在训练过程中，数据集是不会被批改和删除的，元数据的操作集中在open/close/stat/revalidate，不会有非凡的元数据操作，数据操作就是read。基于这种IO特点，当须要进一步晋升性能时，能够选择性弱化某些POSIX语义，甚至是升高数据的一致性，比如说在客户端减少弱化一致性之后的读缓存，从而大大晋升训练过程中对数据的读取速度，缩短训练工夫。

剖析业务IO模型的办法

剖析业务IO的模型有两种形式，能够通过浏览业务的源码，或者是通过存储系统提供的IO剖析工具。然而，浏览业务源码大多数时候并不事实，而且对于存储开发人员或者运维人员，也没有这个必要，所以更多时候，只能依附存储系统提供的IO剖析工具。

在大规模存储系统中，剖析业务的IO行为是一套非常复杂的流程，尤其是分布式文件存储，文件存储须要实现一套规范POSIX语义的文件接口，丰盛的接口带来的困扰就是须要监控和剖析更多的IO操作类型，剖析的难度也就更大。对文件存储来说，咱们须要关注两类IO，元数据和数据。元数据IO次要包含文件/目录的元数据操作，比如说open/close/mkdir/rmdir/stat/unlink/revalidate/hardlink/rename等，数据IO次要包含read/write，在统计read/write的时候，还要统计对应的IOPS和BW。遗憾的是，市场上罕用的文件存储产品和计划也很少提供方便的工具帮忙管理员系统地理解业务IO特点。

咱们是怎么做的

俗话说，工欲善其事，必先利其器。为了可能对各种业务零碎IO特点有更深刻和全面的把握， YRCloudFile专门实现了一套IO统计框架，不便管理员实时理解和剖析业务IO特点，咱们也能够通过这个性能对存储系统做针对性的优化。

当YRCloudFile客户端连贯到存储集群后，集群将主动加载并开始监控客户端的元数据及数据申请行为，同时在界面上实时展现。

  • 元数据申请：客户端为了获取元数据信息而做的申请，申请类型多种多样，一般来说，比拟常产生的元数据申请大略能够分为3类：

  • 文件数据申请：指的是客户端或者元数据服务为了获取文件数据或者信息所做的申请，留神并不是所有文件数据申请都是读写文件数据自身的。文件数据申请次要有以下8种：

YRCloudFile的客户端监控性能，涵盖了35项元数据操作申请和17项文件数据操作申请，用户能够依据生产的理论状况来设置最常应用的OPS选项作为重点察看项。该性能不仅能实时展现各OPS的状况，还能按天均匀和周均匀OPS来展现、排序和导出，为CTO和治理团队对系统资源的调配、优化经营提供精准的数据撑持。

通过这个性能，用户能够很清晰地看到各个客户端的IO统计散布。同时也能够依据本身状况，选择性监控某些操作类型和某些客户端，还能够依据某种操作类型进行排队，让用户可能疾速定位和剖析各个客户端的状况。焱融科技的研发团队也能够依据这些IO特色的剖析，为用户的业务进行针对性的系统优化。