Hallo,
ich habe das Problem, dass ich die Geschwindigkeit von MySQL zu PowerBI trotz Konfiguration nicht über 4k-9k Datensätze/Zyklus bekomme. DB2 im Vergleich schaffe ich 80k Datensätze / Zyklus.
Tabelle mit 7,4GB Daten und ca. 75 Millionen Einträgen
Abfrage ist simple. ohne Joins etc.
Indizes sind gesetzt.
Tobias.Beissmann@egoproducts.com, screenshot-1.png ist eine Schritt in eine Richtung wo wir etwas ausführen könnten. Wir würden jedoch Text statt Bilder bevorzugen. Und das dort enthaltene Beispiel weicht wesentlich von Ihrem ursprünglichen CREATE TABLE ab, indem weder KEY noch WHERE vorhanden sind.
"Using index condition" soll nur möglich sein, wenn ein Index angewendet wird (wie KEY(START) und WHERE START… in der ursprünglichen Tabelle).
Ich hoffe, dass ich mich verständlich gemacht habe. Deutsch ist meine dritte Fremdsprache.
Marko Mäkelä
added a comment - Tobias.Beissmann@egoproducts.com , screenshot-1.png ist eine Schritt in eine Richtung wo wir etwas ausführen könnten. Wir würden jedoch Text statt Bilder bevorzugen. Und das dort enthaltene Beispiel weicht wesentlich von Ihrem ursprünglichen CREATE TABLE ab, indem weder KEY noch WHERE vorhanden sind.
"Using index condition" soll nur möglich sein, wenn ein Index angewendet wird (wie KEY(START) und WHERE START… in der ursprünglichen Tabelle).
Ich hoffe, dass ich mich verständlich gemacht habe. Deutsch ist meine dritte Fremdsprache.
Ich habe den Benchmark Test von der MariaDB Seite (https://mariadb.com/kb/en/benchmarking-aria/) ausgeführt, weil ich dachte man kann hier etwas feststellen, woran das Problem liegt.
Ich habe noch mehrere Einstellungen an der my.ini vorgenommen, jedoch hat keine Änderung die Bandbreite erhöht, so dass ich mehr Daten übertragen kann.
Ich habe die qs_master Tabelle in InnoDB geändert und die Geschwindigkeit beim Auslesen, hat sich nicht verändert. ~9k Datensätze / Zyklus zu PowerBi
Tobias Beißmann
added a comment - Ich habe den Benchmark Test von der MariaDB Seite ( https://mariadb.com/kb/en/benchmarking-aria/ ) ausgeführt, weil ich dachte man kann hier etwas feststellen, woran das Problem liegt.
Ich habe noch mehrere Einstellungen an der my.ini vorgenommen, jedoch hat keine Änderung die Bandbreite erhöht, so dass ich mehr Daten übertragen kann.
Ich habe die qs_master Tabelle in InnoDB geändert und die Geschwindigkeit beim Auslesen, hat sich nicht verändert. ~9k Datensätze / Zyklus zu PowerBi
Wenn der Server nicht vom Disk liest (die Daten alle im Innodb Bufferpool), wäre es schon ein Erfolg.
Wie groß dabei innodb-buffer-pool-size sein soll ist die frage, und es ist sicherlich mehr als .ibd file. 1.5x der 2x mehr sollte langen. Falls vom Disk nicht mehr gelesen wird (was sogar im task manager angezeigt wird), ist der Server vorerst optimiert.
Sonst kann es natürlich liegt es auch an dem Klienten, wie schnell die daten rausgelesen werden, und an der menge der rausgelesenen Daten. Es kann sein, daß ODBC, oder welche Klienttechnologie auch immer sich unter diesem PowerBI verbirgt, das diese Komponente am Ende die Applikation ausbremst.
Vladislav Vaintroub
added a comment - Wenn der Server nicht vom Disk liest (die Daten alle im Innodb Bufferpool), wäre es schon ein Erfolg.
Wie groß dabei innodb-buffer-pool-size sein soll ist die frage, und es ist sicherlich mehr als .ibd file. 1.5x der 2x mehr sollte langen. Falls vom Disk nicht mehr gelesen wird (was sogar im task manager angezeigt wird), ist der Server vorerst optimiert.
Sonst kann es natürlich liegt es auch an dem Klienten, wie schnell die daten rausgelesen werden, und an der menge der rausgelesenen Daten. Es kann sein, daß ODBC, oder welche Klienttechnologie auch immer sich unter diesem PowerBI verbirgt, das diese Komponente am Ende die Applikation ausbremst.
Tobias Beißmann
added a comment - Hallo,
ich habe mittlerweile alle Tabellen auf InnoDB umgestellt, jedoch komme ich nicht über 4k-9k Datensätze/Zyklus.
Aktuelle my.ini
[mysqld]
port=3306
datadir=E:/data
tmpdir=E:/tmp
innodb_log_file_size=80M
innodb_file_per_table=1
innodb_buffer_pool_size=24G
join_buffer_size=1M
net_buffer_length=16M
innodb_io_capacity=1000
key_buffer_size=10M
thread_handling=pool-of-threads
skip-name-resolve
Tobias.Beissmann@egoproducts.com, es tut mir leid, ich hatte Ihre Antwort übersehen. Der Parameter innodb_log_file_size=80M ist sehr gering im Vergleich zu innodb_buffer_pool_size=24G. Ich habe eine Empfehlung gesehen, dass die Pufferpool-Größe etwa 60% bis 80% des Hauptspeichers betragen sollte, je nach dem, was für andere Puffer für die Arbeitslast nötig sind, oder was für andere Dienste auf dem System laufen.
Wenn es um die Log-Größe geht, habe ich eine Empfehlung gelesen, dass die Größe etwa dem Wachstum von LSN in einer Stunde entsprechen sollte. Eine zu kleine Logdatei wird häufige Log-Checkpoints und dadurch Schreiben der veränderten Datenseiten verursachen. So weit ich verstehe, ist die Log-Größe von Aria nicht begrenzt: neue Dateien können beim Bedarf angelegt werden. In InnoDB wird die Logdatei zyklisch beschrieben.
Vor MDEV-21351, MDEV-29911 und anderen Verbesserungen könnte ein Neustart der Datenbank nach einem Crash wegen Speichermangel fehlschlagen oder sehr langsam sein, bei einem großen innodb_log_file_size.
In MariaDB Server 10.6 wurde die Leistungsfähigkeit von InnoDB weiter verbessert.
Marko Mäkelä
added a comment - Tobias.Beissmann@egoproducts.com , es tut mir leid, ich hatte Ihre Antwort übersehen. Der Parameter innodb_log_file_size=80M ist sehr gering im Vergleich zu innodb_buffer_pool_size=24G . Ich habe eine Empfehlung gesehen, dass die Pufferpool-Größe etwa 60% bis 80% des Hauptspeichers betragen sollte, je nach dem, was für andere Puffer für die Arbeitslast nötig sind, oder was für andere Dienste auf dem System laufen.
Wenn es um die Log-Größe geht, habe ich eine Empfehlung gelesen, dass die Größe etwa dem Wachstum von LSN in einer Stunde entsprechen sollte. Eine zu kleine Logdatei wird häufige Log-Checkpoints und dadurch Schreiben der veränderten Datenseiten verursachen. So weit ich verstehe, ist die Log-Größe von Aria nicht begrenzt: neue Dateien können beim Bedarf angelegt werden. In InnoDB wird die Logdatei zyklisch beschrieben.
Vor MDEV-21351 , MDEV-29911 und anderen Verbesserungen könnte ein Neustart der Datenbank nach einem Crash wegen Speichermangel fehlschlagen oder sehr langsam sein, bei einem großen innodb_log_file_size .
In MariaDB Server 10.6 wurde die Leistungsfähigkeit von InnoDB weiter verbessert.
People
Unassigned
Tobias Beißmann
Votes:
0Vote for this issue
Watchers:
4Start watching this issue
Dates
Created:
Updated:
Resolved:
Git Integration
Error rendering 'com.xiplink.jira.git.jira_git_plugin:git-issue-webpanel'. Please contact your Jira administrators.
{"report":{"fcp":789.1999999880791,"ttfb":183.69999998807907,"pageVisibility":"visible","entityId":95746,"key":"jira.project.issue.view-issue","isInitial":true,"threshold":1000,"elementTimings":{},"userDeviceMemory":8,"userDeviceProcessors":64,"apdex":1,"journeyId":"28bddd74-89f9-4048-953b-4584088fe4ca","navigationType":0,"readyForUser":860.6000000238419,"redirectCount":0,"resourceLoadedEnd":962.1000000238419,"resourceLoadedStart":188.80000001192093,"resourceTiming":[{"duration":135.80000001192093,"initiatorType":"link","name":"https://jira.mariadb.org/s/2c21342762a6a02add1c328bed317ffd-CDN/lu2bu7/820016/12ta74/0a8bac35585be7fc6c9cc5a0464cd4cf/_/download/contextbatch/css/_super/batch.css","startTime":188.80000001192093,"connectEnd":0,"connectStart":0,"domainLookupEnd":0,"domainLookupStart":0,"fetchStart":188.80000001192093,"redirectEnd":0,"redirectStart":0,"requestStart":0,"responseEnd":324.60000002384186,"responseStart":0,"secureConnectionStart":0},{"duration":135.69999998807907,"initiatorType":"link","name":"https://jira.mariadb.org/s/7ebd35e77e471bc30ff0eba799ebc151-CDN/lu2bu7/820016/12ta74/8679b4946efa1a0bb029a3a22206fb5d/_/download/contextbatch/css/jira.browse.project,project.issue.navigator,jira.view.issue,jira.general,jira.global,atl.general,-_super/batch.css?agile_global_admin_condition=true&jag=true&jira.create.linked.issue=true&slack-enabled=true","startTime":189.10000002384186,"connectEnd":0,"connectStart":0,"domainLookupEnd":0,"domainLookupStart":0,"fetchStart":189.10000002384186,"redirectEnd":0,"redirectStart":0,"requestStart":0,"responseEnd":324.80000001192093,"responseStart":0,"secureConnectionStart":0},{"duration":144.69999998807907,"initiatorType":"script","name":"https://jira.mariadb.org/s/fbf975c0cce4b1abf04784eeae9ba1f4-CDN/lu2bu7/820016/12ta74/0a8bac35585be7fc6c9cc5a0464cd4cf/_/download/contextbatch/js/_super/batch.js?locale=en","startTime":189.19999998807907,"connectEnd":189.19999998807907,"connectStart":189.19999998807907,"domainLookupEnd":189.19999998807907,"domainLookupStart":189.19999998807907,"fetchStart":189.19999998807907,"redirectEnd":0,"redirectStart":0,"requestStart":189.19999998807907,"responseEnd":333.89999997615814,"responseStart":333.89999997615814,"secureConnectionStart":189.19999998807907},{"duration":218.60000002384186,"initiatorType":"script","name":"https://jira.mariadb.org/s/099b33461394b8015fc36c0a4b96e19f-CDN/lu2bu7/820016/12ta74/8679b4946efa1a0bb029a3a22206fb5d/_/download/contextbatch/js/jira.browse.project,project.issue.navigator,jira.view.issue,jira.general,jira.global,atl.general,-_super/batch.js?agile_global_admin_condition=true&jag=true&jira.create.linked.issue=true&locale=en&slack-enabled=true","startTime":189.39999997615814,"connectEnd":189.39999997615814,"connectStart":189.39999997615814,"domainLookupEnd":189.39999997615814,"domainLookupStart":189.39999997615814,"fetchStart":189.39999997615814,"redirectEnd":0,"redirectStart":0,"requestStart":189.39999997615814,"responseEnd":408,"responseStart":407.89999997615814,"secureConnectionStart":189.39999997615814},{"duration":222.10000002384186,"initiatorType":"script","name":"https://jira.mariadb.org/s/94c15bff32baef80f4096a08aceae8bc-CDN/lu2bu7/820016/12ta74/c92c0caa9a024ae85b0ebdbed7fb4bd7/_/download/contextbatch/js/atl.global,-_super/batch.js?locale=en","startTime":189.5,"connectEnd":189.5,"connectStart":189.5,"domainLookupEnd":189.5,"domainLookupStart":189.5,"fetchStart":189.5,"redirectEnd":0,"redirectStart":0,"requestStart":189.5,"responseEnd":411.60000002384186,"responseStart":411.60000002384186,"secureConnectionStart":189.5},{"duration":222.5999999642372,"initiatorType":"script","name":"https://jira.mariadb.org/s/d41d8cd98f00b204e9800998ecf8427e-CDN/lu2bu7/820016/12ta74/1.0/_/download/batch/jira.webresources:calendar-en/jira.webresources:calendar-en.js","startTime":189.80000001192093,"connectEnd":189.80000001192093,"connectStart":189.80000001192093,"domainLookupEnd":189.80000001192093,"domainLookupStart":189.80000001192093,"fetchStart":189.80000001192093,"redirectEnd":0,"redirectStart":0,"requestStart":189.80000001192093,"responseEnd":412.39999997615814,"responseStart":412.39999997615814,"secureConnectionStart":189.80000001192093},{"duration":222.9000000357628,"initiatorType":"script","name":"https://jira.mariadb.org/s/d41d8cd98f00b204e9800998ecf8427e-CDN/lu2bu7/820016/12ta74/1.0/_/download/batch/jira.webresources:calendar-localisation-moment/jira.webresources:calendar-localisation-moment.js","startTime":189.89999997615814,"connectEnd":189.89999997615814,"connectStart":189.89999997615814,"domainLookupEnd":189.89999997615814,"domainLookupStart":189.89999997615814,"fetchStart":189.89999997615814,"redirectEnd":0,"redirectStart":0,"requestStart":189.89999997615814,"responseEnd":412.80000001192093,"responseStart":412.80000001192093,"secureConnectionStart":189.89999997615814},{"duration":285.5999999642372,"initiatorType":"link","name":"https://jira.mariadb.org/s/b04b06a02d1959df322d9cded3aeecc1-CDN/lu2bu7/820016/12ta74/a2ff6aa845ffc9a1d22fe23d9ee791fc/_/download/contextbatch/css/jira.global.look-and-feel,-_super/batch.css","startTime":190.10000002384186,"connectEnd":0,"connectStart":0,"domainLookupEnd":0,"domainLookupStart":0,"fetchStart":190.10000002384186,"redirectEnd":0,"redirectStart":0,"requestStart":0,"responseEnd":475.69999998807907,"responseStart":0,"secureConnectionStart":0},{"duration":224.0999999642372,"initiatorType":"script","name":"https://jira.mariadb.org/rest/api/1.0/shortcuts/820016/47140b6e0a9bc2e4913da06536125810/shortcuts.js?context=issuenavigation&context=issueaction","startTime":190.30000001192093,"connectEnd":190.30000001192093,"connectStart":190.30000001192093,"domainLookupEnd":190.30000001192093,"domainLookupStart":190.30000001192093,"fetchStart":190.30000001192093,"redirectEnd":0,"redirectStart":0,"requestStart":190.30000001192093,"responseEnd":414.39999997615814,"responseStart":414.39999997615814,"secureConnectionStart":190.30000001192093},{"duration":285.30000001192093,"initiatorType":"link","name":"https://jira.mariadb.org/s/3ac36323ba5e4eb0af2aa7ac7211b4bb-CDN/lu2bu7/820016/12ta74/d176f0986478cc64f24226b3d20c140d/_/download/contextbatch/css/com.atlassian.jira.projects.sidebar.init,-_super,-project.issue.navigator,-jira.view.issue/batch.css?jira.create.linked.issue=true","startTime":190.5,"connectEnd":0,"connectStart":0,"domainLookupEnd":0,"domainLookupStart":0,"fetchStart":190.5,"redirectEnd":0,"redirectStart":0,"requestStart":0,"responseEnd":475.80000001192093,"responseStart":0,"secureConnectionStart":0},{"duration":224.39999997615814,"initiatorType":"script","name":"https://jira.mariadb.org/s/3339d87fa2538a859872f2df449bf8d0-CDN/lu2bu7/820016/12ta74/d176f0986478cc64f24226b3d20c140d/_/download/contextbatch/js/com.atlassian.jira.projects.sidebar.init,-_super,-project.issue.navigator,-jira.view.issue/batch.js?jira.create.linked.issue=true&locale=en","startTime":190.60000002384186,"connectEnd":190.60000002384186,"connectStart":190.60000002384186,"domainLookupEnd":190.60000002384186,"domainLookupStart":190.60000002384186,"fetchStart":190.60000002384186,"redirectEnd":0,"redirectStart":0,"requestStart":190.60000002384186,"responseEnd":415,"responseStart":415,"secureConnectionStart":190.60000002384186},{"duration":750.8999999761581,"initiatorType":"script","name":"https://jira.mariadb.org/s/d41d8cd98f00b204e9800998ecf8427e-CDN/lu2bu7/820016/12ta74/1.0/_/download/batch/jira.webresources:bigpipe-js/jira.webresources:bigpipe-js.js","startTime":197.60000002384186,"connectEnd":197.60000002384186,"connectStart":197.60000002384186,"domainLookupEnd":197.60000002384186,"domainLookupStart":197.60000002384186,"fetchStart":197.60000002384186,"redirectEnd":0,"redirectStart":0,"requestStart":197.60000002384186,"responseEnd":948.5,"responseStart":948.5,"secureConnectionStart":197.60000002384186},{"duration":747,"initiatorType":"script","name":"https://jira.mariadb.org/s/d41d8cd98f00b204e9800998ecf8427e-CDN/lu2bu7/820016/12ta74/1.0/_/download/batch/jira.webresources:bigpipe-init/jira.webresources:bigpipe-init.js","startTime":201.89999997615814,"connectEnd":201.89999997615814,"connectStart":201.89999997615814,"domainLookupEnd":201.89999997615814,"domainLookupStart":201.89999997615814,"fetchStart":201.89999997615814,"redirectEnd":0,"redirectStart":0,"requestStart":201.89999997615814,"responseEnd":948.8999999761581,"responseStart":948.8999999761581,"secureConnectionStart":201.89999997615814},{"duration":162.9000000357628,"initiatorType":"xmlhttprequest","name":"https://jira.mariadb.org/rest/webResources/1.0/resources","startTime":503.19999998807907,"connectEnd":503.19999998807907,"connectStart":503.19999998807907,"domainLookupEnd":503.19999998807907,"domainLookupStart":503.19999998807907,"fetchStart":503.19999998807907,"redirectEnd":0,"redirectStart":0,"requestStart":503.19999998807907,"responseEnd":666.1000000238419,"responseStart":666.1000000238419,"secureConnectionStart":503.19999998807907},{"duration":206.30000001192093,"initiatorType":"link","name":"https://jira.mariadb.org/s/d5715adaadd168a9002b108b2b039b50-CDN/lu2bu7/820016/12ta74/be4b45e9cec53099498fa61c8b7acba4/_/download/contextbatch/css/jira.project.sidebar,-_super,-project.issue.navigator,-jira.general,-jira.browse.project,-jira.view.issue,-jira.global,-atl.general,-com.atlassian.jira.projects.sidebar.init/batch.css?agile_global_admin_condition=true&jag=true&jira.create.linked.issue=true&slack-enabled=true","startTime":743.8000000119209,"connectEnd":0,"connectStart":0,"domainLookupEnd":0,"domainLookupStart":0,"fetchStart":743.8000000119209,"redirectEnd":0,"redirectStart":0,"requestStart":0,"responseEnd":950.1000000238419,"responseStart":0,"secureConnectionStart":0},{"duration":210.19999998807907,"initiatorType":"script","name":"https://jira.mariadb.org/s/d41d8cd98f00b204e9800998ecf8427e-CDN/lu2bu7/820016/12ta74/e65b778d185daf5aee24936755b43da6/_/download/contextbatch/js/browser-metrics-plugin.contrib,-_super,-project.issue.navigator,-jira.view.issue,-atl.general/batch.js?agile_global_admin_condition=true&jag=true&jira.create.linked.issue=true&slack-enabled=true","startTime":744.6999999880791,"connectEnd":744.6999999880791,"connectStart":744.6999999880791,"domainLookupEnd":744.6999999880791,"domainLookupStart":744.6999999880791,"fetchStart":744.6999999880791,"redirectEnd":0,"redirectStart":0,"requestStart":744.6999999880791,"responseEnd":954.8999999761581,"responseStart":954.8999999761581,"secureConnectionStart":744.6999999880791},{"duration":217,"initiatorType":"script","name":"https://jira.mariadb.org/s/f51ef5507eea4c158f257c66c93b2a3f-CDN/lu2bu7/820016/12ta74/be4b45e9cec53099498fa61c8b7acba4/_/download/contextbatch/js/jira.project.sidebar,-_super,-project.issue.navigator,-jira.general,-jira.browse.project,-jira.view.issue,-jira.global,-atl.general,-com.atlassian.jira.projects.sidebar.init/batch.js?agile_global_admin_condition=true&jag=true&jira.create.linked.issue=true&locale=en&slack-enabled=true","startTime":745.1000000238419,"connectEnd":745.1000000238419,"connectStart":745.1000000238419,"domainLookupEnd":745.1000000238419,"domainLookupStart":745.1000000238419,"fetchStart":745.1000000238419,"redirectEnd":0,"redirectStart":0,"requestStart":745.1000000238419,"responseEnd":962.1000000238419,"responseStart":962.1000000238419,"secureConnectionStart":745.1000000238419},{"duration":271.4000000357628,"initiatorType":"script","name":"https://www.google-analytics.com/analytics.js","startTime":781.8999999761581,"connectEnd":0,"connectStart":0,"domainLookupEnd":0,"domainLookupStart":0,"fetchStart":781.8999999761581,"redirectEnd":0,"redirectStart":0,"requestStart":0,"responseEnd":1053.300000011921,"responseStart":0,"secureConnectionStart":0}],"fetchStart":0,"domainLookupStart":0,"domainLookupEnd":0,"connectStart":0,"connectEnd":0,"requestStart":18,"responseStart":184,"responseEnd":202,"domLoading":187,"domInteractive":972,"domContentLoadedEventStart":972,"domContentLoadedEventEnd":1012,"domComplete":1108,"loadEventStart":1108,"loadEventEnd":1108,"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","marks":[{"name":"bigPipe.sidebar-id.start","time":952.6000000238419},{"name":"bigPipe.sidebar-id.end","time":953.3999999761581},{"name":"bigPipe.activity-panel-pipe-id.start","time":953.6000000238419},{"name":"bigPipe.activity-panel-pipe-id.end","time":955.5},{"name":"activityTabFullyLoaded","time":1067}],"measures":[],"correlationId":"610cadd345df8d","effectiveType":"4g","downlink":10,"rtt":0,"serverDuration":105,"dbReadsTimeInMs":14,"dbConnsTimeInMs":22,"applicationHash":"9d11dbea5f4be3d4cc21f03a88dd11d8c8687422","experiments":[]}}
Tobias.Beissmann@egoproducts.com, screenshot-1.png
ist eine Schritt in eine Richtung wo wir etwas ausführen könnten. Wir würden jedoch Text statt Bilder bevorzugen. Und das dort enthaltene Beispiel weicht wesentlich von Ihrem ursprünglichen CREATE TABLE ab, indem weder KEY noch WHERE vorhanden sind.
"Using index condition" soll nur möglich sein, wenn ein Index angewendet wird (wie KEY(START) und WHERE START… in der ursprünglichen Tabelle).
Ich hoffe, dass ich mich verständlich gemacht habe. Deutsch ist meine dritte Fremdsprache.