it-swarm.com.de

MySQL - schnellster Weg zu ALTER TABLE für InnoDB

Ich habe eine InnoDB-Tabelle, die ich ändern möchte. Die Tabelle enthält ~ 80 Millionen Zeilen und beendet einige Indizes.

Ich möchte den Namen einer der Spalten ändern und ein paar weitere Indizes hinzufügen.

  • Was ist der schnellste Weg, dies zu tun (vorausgesetzt, ich könnte sogar Ausfallzeiten erleiden - der Server ist ein nicht verwendeter Slave)?
  • Ist eine "Ebene" alter table, die schnellste Lösung?

Zu diesem Zeitpunkt ist alles, was mich interessiert, Geschwindigkeit :)

12
Ran

Eine sichere Möglichkeit, eine ALTER TABLE zu beschleunigen, besteht darin, unnötige Indizes zu entfernen

Hier sind die ersten Schritte zum Laden einer neuen Version der Tabelle

CREATE TABLE s_relations_new LIKE s_relations;
#
# Drop Duplicate Indexes
#
ALTER TABLE s_relations_new
    DROP INDEX source_persona_index,
    DROP INDEX target_persona_index,
    DROP INDEX target_persona_relation_type_index
;

Bitte beachten Sie Folgendes:

  • Ich habe source_persona_index gelöscht, da dies die erste Spalte in 4 anderen Indizes ist

    • unique_target_persona
    • unique_target_object
    • source_and_target_object_index
    • source_target_persona_index
  • Ich habe target_persona_index gelöscht, weil es die erste Spalte in 2 anderen Indizes ist

    • target_persona_relation_type_index
    • target_persona_relation_type_message_id_index
  • Ich habe target_persona_relation_type_index gelöscht, da sich die ersten beiden Spalten auch in target_persona_relation_type_message_id_index befinden

OK Das sorgt für unnötige Indizes. Gibt es Indizes mit geringer Kardinalität? Hier ist der Weg, um das festzustellen:

Führen Sie die folgenden Abfragen aus:

SELECT COUNT(DISTINCT sent_at)               FROM s_relations;
SELECT COUNT(DISTINCT message_id)            FROM s_relations;
SELECT COUNT(DISTINCT target_object_id)      FROM s_relations;

Ihrer Frage zufolge gibt es ungefähr 80.000.000 Zeilen. Als Faustregel gilt, dass das MySQL Query Optimizer keinen Index verwendet, wenn die Kardinalität der ausgewählten Spalten größer als 5% der Tabellenzeilenanzahl ist. In diesem Fall wären das 4.000.000.

  • Wenn COUNT(DISTINCT sent_at)> 4.000.000
    • dann ALTER TABLE s_relations_new DROP INDEX sent_at_index;
  • Wenn COUNT(DISTINCT message_id)> 4.000.000
    • dann ALTER TABLE s_relations_new DROP INDEX message_id_index;
  • Wenn COUNT(DISTINCT target_object_id)> 4.000.000
    • dann ALTER TABLE s_relations_new DROP INDEX target_object_index;

Sobald die Nützlichkeit oder Nutzlosigkeit dieser Indizes festgestellt wurde, können Sie die Daten neu laden

#
# Change the Column Name
# Load the Table
#
ALTER TABLE s_relations_new CHANGE sent_at sent_at_new int(11) DEFAULT NULL;
INSERT INTO s_relations_new SELECT * FROM s_relations;

Das war's, richtig? NOPE !!!

Wenn Ihre Website die ganze Zeit aktiv war, werden beim Laden von s_relations_new möglicherweise INSERTs gegen s_relations ausgeführt. Wie können Sie diese fehlenden Zeilen abrufen?

Suchen Sie die maximale ID in s_relations_new und hängen Sie alles nach dieser ID aus s_relations an. Um sicherzustellen, dass die Tabelle eingefroren ist und nur für dieses Update verwendet wird, müssen Sie eine kleine Ausfallzeit haben, um die letzten Zeilen zu erhalten, die in s_relation_new eingefügt wurden. Folgendes tun Sie:

Starten Sie mysql im Betriebssystem neu, damit sich nur root @ localhost anmelden kann (deaktiviert TCP/IP):

$ service mysql restart --skip-networking

Melden Sie sich als Nächstes bei MySQL an und laden Sie die letzten Zeilen:

mysql> SELECT MAX(id) INTO @maxidnew FROM s_relations_new;
mysql> INSERT INTO s_relations_new SELECT * FROM s_relations WHERE id > @maxidnew;
mysql> ALTER TABLE s_relations RENAME s_relations_old;
mysql> ALTER TABLE s_relations_new RENAME s_relations;

Starten Sie dann MySQL normal neu

$ service mysql restart

Wenn Sie MySQL nicht herunterfahren können, müssen Sie s_relations ködern und umschalten. Melden Sie sich einfach bei MySQL an und gehen Sie wie folgt vor:

mysql> ALTER TABLE s_relations RENAME s_relations_old;
mysql> SELECT MAX(id) INTO @maxidnew FROM s_relations_new;
mysql> INSERT INTO s_relations_new SELECT * FROM s_relations_old WHERE id > @maxidnew;
mysql> ALTER TABLE s_relations_new RENAME s_relations;

Versuche es !!!

CAVEAT: Sobald Sie mit dieser Operation zufrieden sind, können Sie den alten Tisch so schnell wie möglich löschen:

mysql> DROP TABLE s_relations_old;
14
RolandoMySQLDBA

Die richtige Antwort hängt von der Version der verwendeten MySQL-Engine ab.

Bei Verwendung von 5.6+ werden Umbenennungen und das Hinzufügen/Entfernen von Indizes durchgeführt online , d. H. Ohne alle Daten der Tabelle zu kopieren.

Benutz einfach ALTER TABLE Wie üblich ist es meistens sofort für Umbenennungen und Indexverluste und relativ schnell für die Indexaddition (so schnell wie das einmalige Lesen der gesamten Tabelle).

Wenn Sie 5.1+ verwenden und das InnoDB-Plugin aktiviert ist, ist das Hinzufügen/Entfernen von Indizes auch online. Ich bin mir nicht sicher über Umbenennungen.

Wenn Sie eine ältere Version verwenden, ALTER TABLE ist immer noch die schnellste - wird aber wahrscheinlich schrecklich langsam sein, weil alle Ihre Daten wieder in eine temporäre Tabelle unter der Haube eingefügt werden.

Endlich Zeit für das Entlarven von Mythen. Leider habe ich hier nicht genug Karma, um Antworten zu kommentieren, aber ich halte es für wichtig, die am häufigsten gewählte Antwort zu korrigieren. Dies ist falsch :

Als Faustregel gilt, dass das MySQL Query Optimizer keinen Index verwendet, wenn die Kardinalität der ausgewählten Spalten größer als 5% der Tabellenzeilenanzahl ist

Es ist eigentlich das anders herum .

Indizes sind nützlich, um wenige Zeilen auszuwählen, daher ist es wichtig, dass sie hoch Kardinalität haben, was viele unterschiedliche Werte und statistisch wenige Zeilen mit demselben Wert bedeutet.

12
mezis

Ich hatte das gleiche Problem mit Maria DB 10.1.12. Nachdem ich die Dokumentation gelesen hatte, stellte ich fest, dass es eine Option gibt, die Operation "an Ort und Stelle" auszuführen, wodurch die Kopie der Tabelle entfernt wird. Mit dieser Option ist die Änderungstabelle sehr schnell. In meinem Fall war es:

alter table user add column (resettoken varchar(256),
  resettoken_date date, resettoken_count int), algorithm=inplace;

das ist sehr schnell. Ohne die Algorithmusoption würde es niemals enden.

https://mariadb.com/kb/en/mariadb/alter-table/

2
Saule

Für die Spaltenumbenennung

ALTER TABLE tablename CHANGE columnname newcolumnname datatype;

sollte in Ordnung sein und keine Ausfallzeiten mit sich bringen.

Für die Indizes sperrt die Anweisung CREATE INDEX die Tabelle. Wenn es ein unbenutzter Sklave ist, wie Sie erwähnt haben, ist das kein Problem.

Eine andere Möglichkeit wäre, eine brandneue Tabelle mit den richtigen Spaltennamen und Indizes zu erstellen. Dann könnten Sie alle Daten darin kopieren und dann eine Reihe von ausführen

BEGIN TRAN;
ALTER TABLE RENAME tablename tablenameold;
ALTER TABLE RENAME newtablename tablename;
DROP TABLE tablenameold;
COMMIT TRAN;

Dies würde die Ausfallzeit auf Kosten der vorübergehenden Nutzung des doppelten Speicherplatzes minimieren.

0
TetonSig

Ich habe auch dieses Problem und habe dieses SQL verwendet:

/*on créé la table COPY SANS les nouveaux champs et SANS les FKs */
CREATE TABLE IF NOT EXISTS prestations_copy LIKE prestations;

/* on supprime les FKs de la table actuelle */
ALTER TABLE `prestations`
DROP FOREIGN KEY `fk_prestations_pres_promos`,
DROP FOREIGN KEY `fk_prestations_activites`;

/* on remet les FKs sur la table copy */
ALTER TABLE prestations_copy 
    ADD CONSTRAINT `fk_prestations_activites` FOREIGN KEY (`act_id`) REFERENCES `activites` (`id`) ON UPDATE NO ACTION ON DELETE NO ACTION,
    ADD CONSTRAINT `fk_prestations_pres_promos` FOREIGN KEY (`presp_id`) REFERENCES `pres_promos` (`id`) ON UPDATE NO ACTION ON DELETE NO ACTION;

/* On fait le transfert des données de la table actuelle vers la copy, ATTENTION: il faut le même nombre de colonnes */
INSERT INTO prestations_copy
SELECT * FROM prestations;

/* On modifie notre table copy de la façon que l'on souhaite */
ALTER TABLE `prestations_copy`
    ADD COLUMN `seo_mot_clef` VARCHAR(50) NULL;

/* on supprime la table actuelle et renome la copy avec le bon nom de table */
SET FOREIGN_KEY_CHECKS=0;
DROP TABLE prestations;
RENAME TABLE prestations_copy TO prestations;
SET FOREIGN_KEY_CHECKS=1;   

Ich hoffe es könnte jemandem helfen

Grüße,

Wille

0
William Rossier