Wir halten das Datum ‘3999-31-12’, um zu kennzeichnen das ein Datensatz unbegrenzt gültig ist. Daher die Abfrage > ‘3’ bzw. < ‘3’ um alle gültigen bzw. nicht gültigen zu finden.
est=*# create table immer (d date);
CREATE TABLE
test=*# insert into immer (d) values ('infinity'::date);
INSERT 0 1
test=*# select * from immer ;
d
----------
infinity
(1 row)
Leider will die Postgresql auch mit dem partiellen Index sich nicht dazu bewegen lassen, einen Index für den Lookup zu verwenden.
Ich stimme euch zu, dass unser Konstrukt nicht unbedingt sehr optimal ist, allerdings war die Motivation für dieses Vorgehen, eine möglichst datenbankunabhängige Implementation zu erreichen.
Fakt ist aber auch, das andere Datenbanken mit den Abfragen problemlos zurechtkommen (SQL Server, Oracle), nur die Postgresql nicht.
Ja, ev. würden angepasste Statistiken reichen.
postgre_neuling schreibt aber auch, dass sein EXPLAIN ca. 100.000 Zeilen zurückliefert. Und es sind ca. 200.000 Zeilen in der Tabelle.
Damit ist der sequentielle Scan gerechtfertigt, ein Index Scan wäre wahrscheinlich auch nicht schneller.
An der Stelle sollte man sich fragen, was man anderswo optimieren kann.
Wie sind die Einstellungen für “shared_buffers”, “work_mem”, “maintenance_work_mem”, “max_fsm_pages”, “max_fsm_relations”?
Uh… Sequential Scan über 200.000 Rows mit 10 Sekunden Laufzeit? Das macht nicht wirklich Sinn auf aktueller Hardware… Und bei so einer Selectivity müste man den Planner sehr ärgern damit er bei einem halben Table als Resultset einen Index Scan macht.
Im übrigen macht die Postgres auch bei anderen SQLs unserer Anwendung Probleme. Ab 6 Joins wird ein SQL sterbenslangsam (ca. 15 Sekunden), und ein einfacher select count(*) auf einer Tabelle dauert ca. 500 Millisekunden.
Ich frage mich immer warum alle Welt ein count() macht um die Performance zu beurteilen.
In 20 Jahren habe noch nie ein Projekt in Produktion gebracht, für das die Laufzeit eine count() irgendeine Rolle gespielt hat…
Nun ja, Du hast ja einige Dinge dokumentiert, die man besser machen könnte, z.B. sinnvolle Verwendung von Datentypen und Anfragen passend zu den Indexen gestalten.
Ein select count(*) zieht bei PG (aufgrund von MVCC) einen seq.scan nach sich. Oft braucht man aber gar nicht sooo genau zu wissen, wieviel Zeilen nun wirklich drin sind, und kann sich mit einer Schätzung begnügen. Und falls doch, gibt es Trigger-basierte Lösungen. Ob 15 Sekunden für einen 6-Tabellen-Join lahm sind oder nicht kann ohne Detailwissen auch nicht abgeschätzt werden.
Um das mit dem “SELECT COUNT(*)” mal klarzustellen:
ads=# create table seqscan (id serial primary key, data integer);
NOTICE: CREATE TABLE will create implicit sequence "seqscan_id_seq" for serial column "seqscan.id"
NOTICE: CREATE TABLE / PRIMARY KEY will create implicit index "seqscan_pkey" for table "seqscan"
CREATE TABLE
ads=# insert into seqscan (data) select generate_series(1, 10000000);
INSERT 0 10000000
ads=# create index seqscan_data_idx on seqscan (data);
CREATE INDEX
ads=# analyze seqscan;
ANALYZE
Nun einmal mit normalen Einstellungen:
ads=# set enable_nestloop = on;
SET
ads=# set enable_seqscan = on;
SET
ads=# explain analyze select count(*) from seqscan;
QUERY PLAN
-----------------------------------------------------------------------------------------------------------------------------
Aggregate (cost=169247.71..169247.72 rows=1 width=0) (actual time=28514.314..28514.315 rows=1 loops=1)
-> Seq Scan on seqscan (cost=0.00..144247.77 rows=9999977 width=0) (actual time=0.050..14565.531 rows=10000000 loops=1)
Total runtime: 28514.387 ms
(3 Zeilen)
Und einmal mit deaktivierten:
ads=# set enable_nestloop = off;
SET
ads=# set enable_seqscan = off;
SET
ads=# explain analyze select count(*) from seqscan;
QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------------------------
Aggregate (cost=10000169247.72..10000169247.73 rows=1 width=0) (actual time=28845.569..28845.570 rows=1 loops=1)
-> Seq Scan on seqscan (cost=10000000000.00..10000144247.77 rows=9999977 width=0) (actual time=0.079..14858.603 rows=10000000 loops=1)
Total runtime: 28845.642 ms
(3 Zeilen)
Aber wie andere schon sagten: SELECT COUNT(*) beantwortet keine Fragen und wenn doch, ist die Frage schon falsch gestellt.
Erstmal danke für eure Mithilfe und Unterstützung, ich denke wir müssen uns intern hier nochmal zusammensetzen da wir bisher nicht mit der Lösung vorrangekommen sind. Leider ist Postgresql in unserer Firma absolutes Neuland, und das Know-How dementsprechend begrenzt.
Ich werde mich wieder melden, wenn es Fortschritte gibt.