读高性能MySQL(第4版)笔记05_优化服务器设置 2023-09-11 06:14 由 躺柒 发表于 #数据库 1. 除非遇到异常情况,否则不需要调整配置 1.1. 不要“调优”服务器,不要使用比率、公式或“调优脚本”作为设置配置变量的基础 1.1.1. 在互联网上搜索配置建议并不总是一个好主意,你会在博客、论坛等找到很多糟糕的建议 1.1.2. 很难判断谁是真正的专家 1.1.3. 不要相信流行的内存消耗公式 1.2. 可靠的、有信誉的MySQL服务提供商通常比简单的互联网搜索结果更安全,因为那些需要拥有满意的客户的人可能正在做正确的事情 1.2.1. 即使是他们的建议,在没有经过测试和理解的情况下进行应用也可能是危险的,因为它可能针对的是一种与你不同的情况,而你却没有理解 1.3. MySQL的不同版本会删除、弃用和更改一些选项,欲了解详细信息请查看相关文档 1.4. 应该始终通过阅读相关的官方手册来检查任何更改并仔细测试 1.5. MySQL有许多可以更改但不应该更改的设置 1.5.1. MySQL的默认设置是有充分理由的 1.5.2. 修改配置的潜在缺点可能是巨大的 1.5.3. 很多默认设置都是安全的,很多人都会直接使用。这使默认设置成为测试最彻底的设置。当没必要改变这些设置而改变它们时,可能会引起意想不到的错误 1.5.4. 节省时间和避免麻烦的好方法是使用默认设置,除非你明确知道不应该使用默认设置 1.6. 更好的做法是正确地配置基本设置(在大多数情况下,只有少数设置是重要的),并将更多的时间花在schema优化、索引和查询设计上 1.7. 如果问题是由服务器的某个部分引起的,而该部分的行为可以通过配置选项进行纠正,那么可能需要对其进行更改 1.8. 应该只在发现它们解决的特定性能问题时,才设置它们 1.9. 如果需要改进配置,应该会在查询响应时间中体现出来 1.10. 最好从查询及其响应时间开始分析,而不是从配置选项开始 1.10.1. 节省很多时间,避免很多问题 2. 专用数据库服务器 2.1. 可以设置的最佳选项是innodb_dedicated_server 2.1.1. 可以处理90%的性能配置 2.1.2. 配置了4个额外的变量(innodb_buffer_pool_size、innodb_log_file_size、innodb_log_files_in_group和innodb_flush_method) 2.1.3. 通常会占用50%~75%的内存 2.1.3.1. MySQL只需要少量的内存就能保持一个连接(通常是一个相关的专用线程)打开 2.2. 无法使用innodb_dedicated_server 2.2.1. innodb_buffer_pool_size 2.2.1.1. InnoDB缓冲池大小 2.2.1.2. 需要的内存比其他任何组件都多 2.2.1.3. 不仅缓存索引,还缓存行数据、自适应哈希索引、更改缓冲区、锁和其他内部结构等 2.2.1.4. InnoDB严重依赖缓冲池,应该确保为其分配足够的内存 2.2.1.5. 大型缓冲池会带来一些挑战,比如更长的关闭时间和预热时间 2.2.1.6. 当MySQL再次启动时,缓冲池缓存是空的,也称为冷缓存 2.2.1.7. 默认情况下,innodb_buffer_pool_dump_at_shutdown和innodb_buffer_pool_load_at_startup这两个配置可以配合使用,以在启动时预热缓存池 2.2.2. innodb_log_file_size 2.2.2.1. 日志文件大小 2.2.3. 解决了我们所看到的绝大多数实际配置问题 2.3. 应该设置一些安全选项 2.3.1. 通常不会提高性能,只会避免问题 3. MySQL的配置 3.1. 需要永久使用的任何设置都应该写入全局配置文件,而不是在命令行中指定 3.2. 将所有配置文件保存在一个地方也是一个好主意,这样可以方便地检查它们 3.3. 一定要知道服务器的配置文件在哪里 3.3.1. Debian服务器上默认不存在/etc/my.cnf,而是会在/etc/mysql/my.cnf中查找配置 3.4. 配置文件采用标准INI格式,被分为多个部分,每个部分都以一行包含在方括号中的该部分名称开头 3.5. 配置设置全部用小写字母书写,单词之间以下画线或短横线分隔 3.5.1. 建议选择一种风格并始终如一地使用它 3.6. 全局作用域 3.7. 会话作用域 3.8. 许多会话作用域的变量都有相应的全局变量,可以将相应的全局变量的值视为会话变量的默认值 3.9. 动态配置变量 3.9.1. 很多变量(但不是全部)还可以在服务器运行时进行更改 3.9.2. 如果重新启动MySQL,即使使用了SET GLOBAL来更改全局变量,它也将恢复到配置文件中的状态 3.9.3. 必须同时管理MySQL的配置文件和运行时配置,并确保它们保持同步 3.10. MySQL 8.0引入了一个名为持久化系统变量的新功能 3.10.1. 新的语法SET PERSIST允许在运行时设置一次值,MySQL将把这个设置写入磁盘,以便在下次重启后继续使用该值 3.11. table_open_cache 3.11.1. 设置此变量不会立即生效:下一次线程打开表时,MySQL会检查变量的值 3.11.2. 如果该值大于缓存中的表的数目,线程可以将新打开的表插入缓存 3.11.3. 如果该值小于缓存中的表的数目,MySQL将从缓存中删除未使用的表 3.12. thread_cache_size 3.12.1. 设置此变量不会立即生效:下一次关闭连接时,MySQL会检查缓存中是否有空间来存储线程 3.12.2. 如果有,则缓存线程以供其他连接将来重用 3.12.3. 如果没有,则将线程终止而不是缓存它 3.12.4. 只有当查询需要时,MySQL才会为该缓冲区分配内存,而且会立即分配此变量指定的整块内存 3.12.5. 每个处于线程缓存或休眠状态的线程通常使用大约256KB内存 3.12.6. 通常应该保持线程缓存足够大,这样Threads_created就不会经常增加 3.13. open_files_limit选项 3.13.1. 典型的Linux系统中,我们将其设置得尽可能大 3.13.2. 在现代操作系统中,打开文件句柄的成本很低 3.13.3. 如果这个设置不够大,就会看到经典的24号错误,“too many openfiles” 3.14. 设置变量时要小心。并不总是越多越好 3.15. 理想情况下,应该使用版本控制系统来跟踪配置文件的更改 3.16. MySQL并不是一个严格控制内存分配的数据库服务器 3.16.1. 事实是,你不能给MySQL的内存消耗设定上限 4. I/O行为 4.1. InnoDB不仅允许你控制其恢复方式,还允许控制其打开和刷新数据的方式,这将极大地影响恢复和总体性能 4.2. InnoDB使用日志来降低提交事务的成本 4.3. InnoDB假定它使用的是传统的磁盘,随机I/O比顺序I/O的开销要大很多,因为随机I/O需要在磁盘上寻找正确的位置,并等待将所需的磁盘部分旋转到磁头下 4.4. InnoDB最终必须将更改的数据写入数据文件 4.4.1. 日志的大小固定,采取的是循环写入的方式 4.4.1.1. 当到达日志的末尾时,它会环绕到日志的开头 4.4.1.2. 如果日志记录中包含的更改尚未应用于数据文件,则无法覆盖日志记录,因为这将删除已提交事务的唯一永久记录 4.5. 日志文件的总大小由innodb_log_file_size和innodb_log_files_in_group控制,这对写入性能非常重要 4.6. 当缓冲区满了、事务提交时,或者每秒1次(这三个条件以先满足者为准),InnoDB会将缓冲区刷新到磁盘上的日志文件中 4.7. 不需要将缓冲区设置得太大 4.7.1. 建议的范围是1~8M B 4.8. innodb_flush_log_at_trx_commit 4.8.1. 1 4.8.1.1. 每次事务提交时,将日志缓冲区写入日志文件,并将其刷新到持久存储中 4.8.1.2. 默认的(也是最安全的)设置 4.8.1.3. 保证你不会丢失任何已提交的事务,除非磁盘或操作系统“假装”进行刷新操作(没有将数据真正写入磁盘) 4.8.1.3.1. 如果驱动器断电,数据仍可能丢失 4.8.2. 0 4.8.2.1. 每秒定时将日志缓冲区写入日志文件,并刷新日志文件,但在事务提交时不做任何操作 4.8.3. 2 4.8.3.1. 与0设置最重要的区别是,如果只是MySQL进程崩溃,设置为2不会丢失任何事务。但是,如果整个服务器崩溃或断电,仍然可能丢失事务 4.8.4. 设置为0和2通常会导致最多1秒的数据丢失,因为数据可能只存在于操作系统的缓存中 4.9. 高性能事务需求的最佳配置是将innodb_flush_log_at_trx_commit设置为1,并将日志文件放在具有备用电池的写缓存和SSD的RAID卷上,这既安全又非常快 4.10. 最好为日志文件和数据文件分别提供一个配置选项,但目前是组合在一起的 4.11. 如果你使用的是类UNIX操作系统,并且RAID控制器有备用电池的写缓存,我们建议使用O_DIRECT 4.12. 如果不是,则default或O_DIRECT都可能是最佳选择,具体取决于应用程序 5. InnoDB表空间 5.1. 表空间本质上是一个虚拟文件系统,由磁盘上的一个或多个文件组成 5.2. 包含了Undo日志(重新创建旧行版本所需的信息)、修改缓冲区、双写缓冲区和其他内部结构 5.3. 对日志文件也非常严格 5.4. innodb_file_per_table 5.4.1. 提供了额外的可管理性和可视性 5.4.2. 通过检查单个文件来查找表的大小要比使用SHOWTABLE STATUS快得多 5.4.3. SHOW TABLE STATUS必须执行更复杂的工作来确定为一个表分配了空间 5.4.4. 会使DROPTABLE性能变差。严重时可能导致服务器范围内明显的停顿 5.4.4.1. 先将.ibd文件链接到一个大小为零的文件,然后手动删除该文件,而不是等待MySQL来删除 5.4.4.2. 从8.0.23版本开始,这应该不再是一个问题了 5.5. 表空间在写操作频繁的环境中可能会变得非常大 5.5.1. 要限制写操作,请将innodb_max_purge_lag变量设置为0以外的值 5.5.1.1. 表示在InnoDB开始延迟更多修改数据的查询之前,可以等待清除的最大事务数 5.5.1.2. 设置innodb_max_purge_lag变量也会降低性能 5.5.2. 未清除的行版本会影响所有查询,因为它们会使表和索引变大 5.5.3. 清除线程不能跟上进度,性能就会下降 5.5.4. 默认的可重复读取事务隔离级别,InnoDB将无法删除行的旧版本,因为未提交的事务仍需要能够看到它们 5.5.5. 清除过程是多线程的,但如果遇到清除延迟问题(innodb_purge_threads和innodb_purge_batch_size),则可能需要针对工作负载进行调优 5.5.6. 如果Undo日志很大,并且表空间因此而增长,你可以强制MySQL放慢速度来让InnoDB的清理线程跟上 5.5.6.1. InnoDB会不断地写入数据并填充磁盘,直到磁盘空间耗尽或者表空间达到所定义的上限 5.6. sync_binlog选项控制MySQL如何将二进制日志刷新到磁盘,默认值是1 5.6.1. MySQL将执行刷新并保持二进制日志的持久性和安全性 5.6.2. 不建议设置为任何其他值 6. MySQL并发 6.1. 如果遇到InnoDB并发问题,并且运行的MySQL版本低于5.7,解决方案通常是升级服务器 6.2. 如果你发现自己遇到了并发性瓶颈,最好的选择是对数据进行分片 6.2.1. 如果分片不可行,那么可能需要限制并发性 6.3. 限制并发性的最基本方法是使用innodb_thread_concurrency变量,该变量限制了内核中同时可以有多少线程 6.3.1. 首先将innodb_thread_concurrency设置为与可用CPU核数相同的值,然后根据需要调整大小 7. 安全设置 7.1. 安全性和可靠性的保障成本往往更高 7.2. max_connect_errors 7.2.1. 如果网络暂时出现问题、出现应用程序或配置错误,或者存在另一个问题导致连接无法在短时间内成功完成,则客户端可能会被阻止连接,并且在刷新主机缓存之前无法再次连接 7.2.2. 默认设置(100)非常小,因此该问题很容易发生 7.2.3. 如果启用了skip_name_resolve,则max_connect_errors选项将无效,因为其行为取决于主机缓存,而主机缓存被skip_name_resolve禁用 7.3. skip_name_resolve 7.3.1. DNS是MySQL连接过程中的一个薄弱环节 7.3.2. 某个时间点出现DNS故障的概率几乎是确定性的 7.4. max_connections 7.4.1. 设置得足够高,以满足你认为将要经历的正常负载的连接需求,并且额外保留一些连接以便管理服务器时可以登录 7.4.2. 默认值为151,这对于很多应用程序来说都不够 7.4.3. 如果没有使用持久连接,但是应用程序没有正常断开连接,也会出现服务器连接占满的情况 7.4.4. 可以显示服务器是否在某个时刻出现了连接高峰。如果到达max_connections,则客户端可能至少被拒绝了一次 7.5. sql_mode 7.5.1. 最好让MySQL在大多数方面保持原样,而不要试图让它像其他数据库服务器那样运行 7.5.2. 在计划升级数据库时,一定要检查对默认sql_mode的更改 7.6. sysdate_is_now 7.6.1. 如果你不是明确地希望SYSDATE()函数具有不确定性行为(这会破坏复制并使从备份中进行的时间点恢复变得不可靠),那么可以启用该选项并使其行为具有确定性 7.7. read_only 7.7.1. 可防止未经授权的用户对副本进行更改,副本应仅通过复制而不是从应用程序接收更改 7.7.2. 建议将副本设置为只读模式 7.8. super_read_only 7.8.1. 可阻止拥有SUPER权限的用户写入数据 7.8.2. 启用此功能后,唯一可以将更改写入数据库的就是复制 7.8.3. 建议启用super_read_only 7.8.4. 防止你意外地使用管理员账户将数据写入只读副本,从而引起数据不同步 8. 高级InnoDB设置 8.1. innodb_autoinc_lock_mode 8.1.1. 控制InnoDB如何生成自动递增的主键值 8.2. innodb_buffer_pool_instances 8.2.1. 将缓冲池划分为多个段,这可能是提高多核机器上MySQL在高并发工作负载下可伸缩性最重要的方法之一 8.2.2. 多个缓冲池对工作负载进行分区,这样一些全局互斥体就不会成为争用热点 8.3. innodb_io_capacity 8.3.1. 告知InnoDB有多少I/O容量可供其使用 8.4. innodb_read_io_threads 8.5. innodb_write_io_threads 8.6. 如果你有很多硬盘和高并发工作负载,并且发现线程很难跟上,那么可以增加线程的数量,或者简单地将它们设置为执行I/O操作的物理磁盘数量 8.7. innodb_strict_mode 8.7.1. InnoDB在某些情况下抛出错误而不是警告,尤其是无效或可能导致危险的CREATE TABLE选项 8.8. innodb_old_blocks_time 8.8.1. 一个由两部分组成的缓冲池LRU列表,设计目的是防止临时查询将长期多次使用的页面驱逐出去 8.8.2. 默认情况下,它被设置为0 8.8.3. 将其设置为一个较小的值如1000(1秒),这在基准测试中被证明是非常有效的 热门相关:豪门蜜爱:独宠天后小萌妻 我成了暴戾帝君的小娇包 一等狂妃:邪王,请接招! 嫡嫁千金 紫府仙缘