MYSQL 主库操作大表DDL ,从库崩溃与系统参数错误设置

2021-06-07 00:00:00 参数 系统 内存 分配 空闲


事情是这样的，一个用户测试UAT库，从库无故的频繁的报错

而内存本身是OK的。但为什么是这样的 MYSQL 的版本是官版的8.011


首先我这边在拿到这个问题，想通过PERCONA 的工具集中的pt-pmp 来进行分析，但是在启动pt-pmp 后发现无法运行，直接报 virtual memory exhausted



但问题是内存没有用完，我们也有SWAP呀， 到底就怎么就无法分片内存了。这里突然想起之前看到过的一篇文章，是不是因为 overcommit_memory的配置有问题，导致这个明明有内存，但就是无法分配的问题。


首先我们再熟悉一下overcommit  的值为0 1 2 

默认大部分系统选择为 0 ， 官方文档的描述为适用于典型的系统，对严重超出预期的内存的分配会拒绝，并且会尽量少的使用SWAP 的内存空间

 1  则是一个特别的列子，他并不关心系统的内存是否已经超分了，这样的配置仅仅适用于一些特别的应用程序。

2  则是和 1 的反例，他提供的内存分配仅仅会对整体的系统的50%进行分配， SWAP + 整体的内存的 50% 是他多能分配的，当无法对应用程序分配内存，系统并不会OOM应用，但应用会接受到一个内存分配的错误。


下面我个反应是查询 /proc/sys/vm/overcommit_memory ,果然里面的状态是 2 . 

马上修改参数  sudo  vi /etc/sysctl.conf

然后在执行 sysctl -p  


再次启动PT-PMP 命令


pt-pmp --binary mysqld --iterations 2 --interval 1  --save-samples mysql.txt


在修改后


在查看MYSQL 的错误日志,,从修改后,系统目前也就没有错误了.  后来其他的DBA 想起来当初是为了测试这个参数对数据库的影响,而调整了参数. 忘记改回来了.不过也好,通过这个事情也彻彻底底的弄清楚 overcommit 参数如果在默认情况下设置成 2 ,MYSQL 可能会发生的问题.


相关的代码


  1. int __vm_enough_memory(struct mm_struct *mm, long pages, int cap_sys_admin)

  2. {

  3.     unsigned long free, allowed;


  5.     vm_acct_memory(pages);


  7.     /*

  8.      * Sometimes we want to use more memory than we have

  9.      */

  10.     if (sysctl_overcommit_memory == OVERCOMMIT_ALWAYS) //overcommit_memory=1，直接返回成功，不做任何限制。

  11.         return 0;


  13.     if (sysctl_overcommit_memory == OVERCOMMIT_GUESS) { //overcommit_memory=0，启发式方式，根据当前系统中空闲内存状况来决定是否可以分配内存。

  14.         unsigned long n;


  16.         free = global_page_state(NR_FILE_PAGES);

  17.         free += nr_swap_pages;


  19.         /*

  20.          * Any slabs which are created with the

  21.          * SLAB_RECLAIM_ACCOUNT flag claim to have contents

  22.          * which are reclaimable, under pressure. The dentry

  23.          * cache and most inode caches should fall into this

  24.          */

  25.         free += global_page_state(NR_SLAB_RECLAIMABLE); 


  27.         /*

  28.          * Leave the last 3% for root

  29.          */

  30.         if (!cap_sys_admin)

  31.             free -= free / 32; //root用户可以在free更少(3%)的时候，分配内存。


  33.         if (free > pages) // pages为需要分配的内存大小，free为根据一定规则算出来的“空闲内存大小”，次free仅为NR_FILE_PAGES+NR_SLAB_RECLAIMABLE，由于直接或者系统中“实际空闲”内存代价比较大，所以进行分阶判断，提高效率。

  34.             return 0;


  36.         /*

  37.          * nr_free_pages() is very expensive on large systems,

  38.          * only call if we're about to fail.

  39.          */

  40.         n = nr_free_pages(); //当次判断不满足内存分配条件时，再进行“实际空闲”内存的获取操作。


  42.         /*

  43.          * Leave reserved pages. The pages are not for anonymous pages.

  44.          */

  45.         if (n <= totalreserve_pages)

  46.             goto error;

  47.         else

  48.             n -= totalreserve_pages;


  50.         /*

  51.          * Leave the last 3% for root

  52.          */

  53.         if (!cap_sys_admin)

  54.             n -= n / 32;

  55.         free += n;


  57.         if (free > pages)

  58.             return 0;


  60.         goto error;

  61.     }


  63.     allowed = (totalram_pages - hugetlb_total_pages()) //当overcommit_memory=2时，根据系统中虚拟地址空间的总量来进行限制。

  64.          * sysctl_overcommit_ratio / 100;

  65.     /*

  66.      * Leave the last 3% for root

  67.      */

  68.     if (!cap_sys_admin)

  69.         allowed -= allowed / 32;

  70.     allowed += total_swap_pages;


  72.     /* Don't let a single process grow too big:

  73.      leave 3% of the size of this process for other processes */

  74.     if (mm)

  75.         allowed -= mm->total_vm / 32;


  77.     if (percpu_counter_read_positive(&vm_committed_as) < allowed)

  78.         return 0;

  79. error:

  80.     vm_unacct_memory(pages);


  82.     return -ENOMEM;

  83. }



相关文章