关于laravel:用Laravel轻松处理千万级数据

Laravel中应用cursor来查问并解决数据 (轻松解决千万级的数据)

事发现场

最近在我的项目中遇到内存不足的问题, 测试环境中的PHP内存只有64M,在导出的时候, 数据量比拟大,这个时候会呈现内存溢出的谬误;

如何解决

目前想到两种办法:

  1. 调整php.ini文件中memory_limit配置项; 或者在调用办法中调整内存大小ini_set('memory_limit', "").
  2. 应用LaravelLazy Collection.

思考到批改配置文件的影响范畴过大, 以及对导出的实时性要求不是很高, 所以咱们抉择了第二种办法.

Lazy Collection

如何应用Lazy Collection? 很简略, 将查问构建器链开端的get()更改为cursor()就好了 !

cursor ( )

  • cursor的原理

cursor的实现应用了 yield 关键字, yield关键字是生成器函数的外围, 它的调用模式跟return很像, 不同之处在于return会返回值并且终止函数执行, 而yield会返回值给循环调用生成器的代码并且只是暂停生成器函数.

  • cursor()的代码如下
 /** 
   * 
   Get a generator for the given query. 
   * 
   * @return Generator
   */
 public function cursor() {
    foreach ($this->applyScopes()->query->cursor() as $record) { 
        yield $this->newModelInstance()->newFromBuilder($record);
    } 
 }
 

因为应用了yield关键字, 在循环cursor生成器的时候,能够渐进式的解决数据,即便在内存很小的状况下,也能够轻松解决千万级的数据! 真的是十分不便哦!

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

这个站点使用 Akismet 来减少垃圾评论。了解你的评论数据如何被处理