如何提高 KnpPaginatorBundle 和 Doctrine 的速度?
How can I improve KnpPaginatorBundle and Doctrine speed?
我有一个巨大的产品 table(100k+ 行)并且在我的控制器中我有以下功能:
public function indexAction(Request $request)
{
$findProducts = $this->getDoctrine()
->getRepository("StockBundle:Product")->findAll();
$paginator = $this->get('knp_paginator');
$producten = $paginator->paginate(
$findProducts,
$request->query->getInt('page', 1)/*page number*/,
20/*limit per page*/
);
return $this->render('StockBundle:Default:index.html.twig',
array('producten' => $producten));
}
问题是页面加载大约需要 11-12 秒,并占用 233MB RAM。
我可以做些什么来提高速度和减少内存?
这是我的实体:
/**
* Product
*
* @ORM\Table()
* @ORM\Entity(repositoryClass="Namespace\StockBundle\Entity\ProductRepository")
*/
class Product
{
/**
* @var integer
*
* @ORM\Column(name="id", type="integer")
* @ORM\Id
* @ORM\GeneratedValue(strategy="AUTO")
*/
private $id;
/**
* @var string
*
* @ORM\Column(name="naam_nl", type="string", length=255)
*/
private $naamNl;
/**
* @var string
*
* @ORM\Column(name="naam_fr", type="string", length=255)
*/
private $naamFr;
/**
* @var string
*
* @ORM\Column(name="naam_en", type="string", length=255)
*/
private $naamEn;
/**
* @var string
*
* @ORM\Column(name="productnummer", type="string", length=255)
*/
private $productnummer;
/**
* @var float
*
* @ORM\Column(name="prijs", type="float")
*/
private $prijs;
/**
* @var string
*
* @ORM\Column(name="merk", type="string", length=255)
*/
private $merk;
/**
* @ORM\OneToOne(targetEntity="Namespace\StockBundle\Entity\ProductInventory", cascade={"persist"})
* @ORM\JoinColumn(name="productinventory_id", referencedColumnName="id")
*
*/
private $productinventory;
table 结构由学说创建,如下所示:
CREATE TABLE `product` (
`id` int(11) NOT NULL,
`naam_nl` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`productnummer` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`prijs` double NOT NULL,
`merk` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`productinventory_id` int(11) DEFAULT NULL,
`naam_fr` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`naam_en` varchar(255) COLLATE utf8_unicode_ci NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COLLATE=utf8_unicode_ci;
您最好使用 Symfony2 profiler
来调试您的查询,您应该首先 add index on your fields
和字段 productinventory_id
.[=20 上的 foreign key
=]
索引可以这样使用:
/**
* @Entity
* @Table(name="user",indexes={
* @Index(name="email_idx", columns={"email"})
* })
*/
class User
{
...
}
要在您的 indexAction 中优化此特定查询,您可以执行一个 select,只需要您希望在列表中显示的列,并编写您的查询而不是 DQL
。
例如:
// Get connection
$conn = $entityManager->getConnection();
// Get table name
$meta = $entityManager->getClassMetadata(User::class);
$tableName = $meta->getTableName();
// Get random ids
$sql = "SELECT id AS id FROM $tableName WHERE active = true ORDER BY RAND()";
$statement = $conn->executeQuery($sql);
$ids = array_map(function ($element) {
return $element['id'];
}, $statement->fetchAll());
return $ids;
最后,您应该启用 apc
或 memcache
等缓存工具来释放您的 sql
服务器。
现在,您正在调用 findAll()
,它将从数据库中检索所有记录,然后将它们合成为对象。这会浪费很多时间,因为这些对象中的大部分都不会再次使用,因为您一次只输出一页。
您应该做的是将查询构建器传递给分页器,然后分页器应该能够创建一个只获取当前页面实际需要的对象的查询。
public function indexAction(Request $request)
{
$findProducts = $this->getDoctrine()
->getRepository("StockBundle:Product")->createQueryBuilder("p");
$paginator = $this->get('knp_paginator');
$producten = $paginator->paginate(
$findProducts,
$request->query->getInt('page', 1)/*page number*/,
20/*limit per page*/
);
return $this->render('StockBundle:Default:index.html.twig',
array('producten' => $producten));
}
我有一个巨大的产品 table(100k+ 行)并且在我的控制器中我有以下功能:
public function indexAction(Request $request)
{
$findProducts = $this->getDoctrine()
->getRepository("StockBundle:Product")->findAll();
$paginator = $this->get('knp_paginator');
$producten = $paginator->paginate(
$findProducts,
$request->query->getInt('page', 1)/*page number*/,
20/*limit per page*/
);
return $this->render('StockBundle:Default:index.html.twig',
array('producten' => $producten));
}
问题是页面加载大约需要 11-12 秒,并占用 233MB RAM。
我可以做些什么来提高速度和减少内存?
这是我的实体:
/**
* Product
*
* @ORM\Table()
* @ORM\Entity(repositoryClass="Namespace\StockBundle\Entity\ProductRepository")
*/
class Product
{
/**
* @var integer
*
* @ORM\Column(name="id", type="integer")
* @ORM\Id
* @ORM\GeneratedValue(strategy="AUTO")
*/
private $id;
/**
* @var string
*
* @ORM\Column(name="naam_nl", type="string", length=255)
*/
private $naamNl;
/**
* @var string
*
* @ORM\Column(name="naam_fr", type="string", length=255)
*/
private $naamFr;
/**
* @var string
*
* @ORM\Column(name="naam_en", type="string", length=255)
*/
private $naamEn;
/**
* @var string
*
* @ORM\Column(name="productnummer", type="string", length=255)
*/
private $productnummer;
/**
* @var float
*
* @ORM\Column(name="prijs", type="float")
*/
private $prijs;
/**
* @var string
*
* @ORM\Column(name="merk", type="string", length=255)
*/
private $merk;
/**
* @ORM\OneToOne(targetEntity="Namespace\StockBundle\Entity\ProductInventory", cascade={"persist"})
* @ORM\JoinColumn(name="productinventory_id", referencedColumnName="id")
*
*/
private $productinventory;
table 结构由学说创建,如下所示:
CREATE TABLE `product` (
`id` int(11) NOT NULL,
`naam_nl` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`productnummer` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`prijs` double NOT NULL,
`merk` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`productinventory_id` int(11) DEFAULT NULL,
`naam_fr` varchar(255) COLLATE utf8_unicode_ci NOT NULL,
`naam_en` varchar(255) COLLATE utf8_unicode_ci NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COLLATE=utf8_unicode_ci;
您最好使用 Symfony2 profiler
来调试您的查询,您应该首先 add index on your fields
和字段 productinventory_id
.[=20 上的 foreign key
=]
索引可以这样使用:
/**
* @Entity
* @Table(name="user",indexes={
* @Index(name="email_idx", columns={"email"})
* })
*/
class User
{
...
}
要在您的 indexAction 中优化此特定查询,您可以执行一个 select,只需要您希望在列表中显示的列,并编写您的查询而不是 DQL
。
例如:
// Get connection
$conn = $entityManager->getConnection();
// Get table name
$meta = $entityManager->getClassMetadata(User::class);
$tableName = $meta->getTableName();
// Get random ids
$sql = "SELECT id AS id FROM $tableName WHERE active = true ORDER BY RAND()";
$statement = $conn->executeQuery($sql);
$ids = array_map(function ($element) {
return $element['id'];
}, $statement->fetchAll());
return $ids;
最后,您应该启用 apc
或 memcache
等缓存工具来释放您的 sql
服务器。
现在,您正在调用 findAll()
,它将从数据库中检索所有记录,然后将它们合成为对象。这会浪费很多时间,因为这些对象中的大部分都不会再次使用,因为您一次只输出一页。
您应该做的是将查询构建器传递给分页器,然后分页器应该能够创建一个只获取当前页面实际需要的对象的查询。
public function indexAction(Request $request)
{
$findProducts = $this->getDoctrine()
->getRepository("StockBundle:Product")->createQueryBuilder("p");
$paginator = $this->get('knp_paginator');
$producten = $paginator->paginate(
$findProducts,
$request->query->getInt('page', 1)/*page number*/,
20/*limit per page*/
);
return $this->render('StockBundle:Default:index.html.twig',
array('producten' => $producten));
}