通过流访问大对象(LONGBLOB)

时间:2018-07-26 13:20:01

标签: php mysql laravel pdo

我正在尝试使用数据库缓存作为缓存非常大的对象的一种方法,然后我希望这些对象要流传输而不是加载到内存中并返回。

为此,我尝试了以下操作:

我使用以下迁移创建了数据库缓存:

public function up() {
    Schema::create('cache', function (Blueprint $table) {
        $table->string('key')->unique();
        $table->longText('value');
        $table->integer('expiration');
    });
    DB::statement("ALTER TABLE `cache` MODIFY `value` LONGBLOB");
}

之所以进行更改,是因为longText与我需要存储的常规二进制对象不能很好地配合。

然后,我尝试了以下代码来测试blob字段的流式传输:

public function test(Request $request) {
    cache()->store("database")
        ->put("randomStr", str_random(1024), 5); //Test string. Real cases are about 200 MB

    return response()->stream(function () {
        $fullKey = config("cache.prefix")."randomStr";
        $pdo = \DB::getPdo();
        $stmt = $pdo->prepare("select `value` from `cache` where `key`=:key");
        $stmt->bindParam("key", $fullKey);
        if ($stmt->execute()) {
            $stmt->bindColumn(1, $lob, \PDO::PARAM_LOB);
            $stmt->fetch(\PDO::FETCH_BOUND);
            fpassthru($lob);
        }
    });
}

此代码基于PHP: Large Objects手册页。

但是我遇到以下错误:

  

fpassthru()期望参数1为资源,给出字符串

我检查了$lob参数,发现它是实际的字符串,而不是我希望的流到LARGEBLOB字段的流。

是否有任何方法可以使BLOB的流在Laravel中工作?

注意:很明显,自2007年以来,bug #40913已开放,以解决此问题,这使我提出了疑问:

是否有任何方法可以使用PDOmysqli或PHP中的其他解决方法将LARGEBLOB流式传输到响应?

1 个答案:

答案 0 :(得分:0)

好,所以我想出了一种 解决方法,但这不是很漂亮,也不是很远。

因此,这里发生了一些事情。

  1. 首先,我不得不更改cache()->driver(..)->put方法来直接进行数据库操作。我这样做是因为遍历数据库有一个序列化步骤,在将数据流传输出去时我无法处理。另外,最终的目的是使插入操作也成为流式操作,这样会更容易。
  2. 我安装了mysql命令行客户端
  3. 我构造了一个命令行界面命令,该命令将为我获取所需的数据,并通过正确的身份验证并构造要通过-e传递的查询。注意:通过escapeshellarg来转义shell参数可能会做得更好,但是对我而言,我无法用它来处理反引号。还要注意-N参数,该参数旨在从结果中删除列标题。
  4. 我使用了proc_open,它允许将输入/输出流传递回PHP。我用它来将响应流式传输到浏览器。注意:我还定义了其他流,我不是proc_open专家,所以我不知道是否有必要。

代码就是这样的:

public function test(Request $request) {
    $fullKey = config("cache.prefix")."randomStr";
    \DB::table("cache")
        ->updateOrInsert([
            "key" => $fullKey,
        ], [
            "value" => str_random(1024),
            "expiration" => Carbon::now(new \DateTimeZone("UTC"))->getTimestamp() + 5*60
        ]);
    return response()->stream(function () use ($fullKey) {
        $command = "/usr/bin/mysql";
        $arguments = [
            "-h ".config("database.connections.mysql.host"),
            "-P ".config("database.connections.mysql.port"),
            "-u ".config("database.connections.mysql.username"),
            "-p".config("database.connections.mysql.password"),
            "-D ".config("database.connections.mysql.database"),
            "-e \"SELECT \\`value\\` FROM \\`cache\\` WHERE \\`key\\`='$fullKey'\"",
            "-N"
        ];
        $p = proc_open($command." ".implode(" ",$arguments),[
            [ "pipe", "r"  ],
            [ "pipe", "w"  ],
            [ "pipe", "w"  ]
        ], $pipes);
        fpassthru($pipes[1]);
        fclose($pipes[0]);
        fclose($pipes[1]);
        fclose($pipes[2]);
        proc_close($p);
    });

}

这似乎可行,但效果并不理想。我可能会把它包装在某个地方,而不必再去看它了,但是我愿意接受任何可以做得更好的人的建议。

注意:所有这些只是为了解决已经打开11年的bug。我希望这对其他人有帮助。