Das schmackhafte Brot der Forschung

28. Februar 2024 von Laborjournal

 

Veröffentlichungen sind das Brot des Wissenschaftlers. Doch trocken schmeckt es ihm nicht. Erst wenn ordentlich Butter und Belag in Form von Zitierungen draufgeschmiert werden, wird es ihm zum wirklichen Genuss. Und zwar je dicker, umso mehr – seit der Einfluss von Impact-Punkten und Zitierzahlen bei der Bewertung von Forschungsqualität fast schon ins Absurde gewachsen ist.

Seit Langem haben wir in mehreren Beiträgen versucht klarzumachen, dass die reine Zahl der Zitate den echten Einfluss der zitierten Arbeit auf nachfolgende Forschung nur sehr unzureichend widerspiegelt – und damit letztlich auch nicht ihre tatsächliche Qualität (siehe etwa „Wachsweiche Zitierzahlen“, „Zitierungen — Kein Maß für Qualität oder Einfluss“ oder „Mehr Zitate durch Open Data“).

Stimmt aber womöglich wenigstens der Umkehrschluss, dass Publikationen, die nicht zitiert werden, gar keinen Wert für nachfolgende Forschung haben? Dazu ein Zitat von Dag W. Aksnes, Professor am Nordic Institute for Studies in Innovation, Research and Education in Oslo:

So einfach ist es nicht, dass Artikel ohne Zitate wenig Wert haben. Sie können dennoch wichtig sein, um die Forschung voranzubringen. Sie können zum Beispiel die Ergebnisse früherer Studien bestätigen oder zeigen, dass zwei Dinge nicht miteinander verbunden sind.

Rein konfirmatorische Studien und negative Ergebnisse also. Genau das, was die Zeitschriften gerne ablehnen, da es den Zitatefluss für ihren Journal-Impact-Faktor zum Stottern bringt. Und was die Autorinnen und Autoren daher nicht nur den Belag, sondern oft genug gleich das ganze Brot kostet.

Dabei ist der wahre Wert konfirmatorischer Studien und negativer Ergebnisse für den wissenschaftlichen Fortschritt längst gezeigt (siehe etwa „Vom Triangulieren beim Experimentieren“, „Warum so negativ?“ oder „Negativ hilft“). So wäre beispielsweise die aktuelle Repliktionskrise sicherlich deutlich kleiner, würden mehr davon durchgeführt, publiziert – und auch trotz vergleichsweise magerer Zitierraten entsprechend honoriert.

Manche Scheibe Brot kann schlichtweg auch ohne fetten Belag ziemlich schmackhaft sein.

Ralf Neumann

(Illustration kreiert via Dall-E2)

 

Zur Filterkraft von Literatur-Datenbanken

24. Januar 2024 von Laborjournal

Raub-Verlage (Predatory Publishers), gekaperte Zeitschriften (Hijacked Journals), Papiermühlen (Paper Mills), Citation Delivery Vehicles, … – schon oft berichteten wir, wie immer mehr „Unternehmen“ mit diesen und anderen windigen Manövern Profit aus den Zwängen und Nöten des wissenschaftlichen Publikationssystems schlagen. Siehe etwa hierhierhier
oder hier. Die Folge davon: Der Anteil an Publikationen von zumindest zweifelhafter Qualität, die diese Machenschaften in den Scientific Record spülen, schwillt immer stärker an.

Könnten die einschlägigen Literatur-Datenbanken für wissenschaftliche Publikationen hier nicht als Filter fungieren?

Ein internationales Autoren-Quartett hat in diesem Sinne Clarivate’s Web of Science und Google Scholar zumindest hinsichtlich eines Teilaspekts stichprobenartig  verglichen: Wie viele Zitierungen listen beide in ihren Datenbanken, die zu gekaperten Zeitschriften (Hijacked Journals) führen? (Equilibrium. Quarterly Journal of Economics and Economic Policy 18: No. 4).

Dazu halten die Vier zunächst einmal fest:  Diesen Beitrag weiterlesen »

Soll Peer Review Fälschung aufdecken? – 2.0

22. November 2023 von Laborjournal

Im Wall Street Journal erschien unlängst ein Artikel mit dem Titel „What’s Wrong With Peer Review?“ Darin stellt die Autorin die Frage, ob angesichts vieler aufsehenerregender Retractions in der jüngsten Vergangenheit der Peer-Review-Prozess seine Funktion überhaupt noch erfüllt – nämlich zu entscheiden, welche Studien tatsächlich zur Veröffentlichung taugen.

In dem Artikel erregte ein Zitat der Chief-Editorin von Nature, Magdalena Skipper, besondere Aufmerksamkeit. Hinsichtlich des Aufdeckens gezielter Fälschungen in Forschungsartikeln hält sie fest, dass dies keineswegs Job der Reviewer ist – und fügt hinzu:

Ich möchte meine Peer-Reviewer eigentlich nicht als eine Art Polizeikommando ansehen, das solches Fehlverhalten aufspürt.

Schon im Artikel werden Editoren-Kollegen mit anderer Meinung zitiert. Für noch mehr Diskussionen sorgte Skippers Aussage indes in den Sozialen Medien. So wunderte sich etwa die australische Psychologie-Professorin Simine Vazire auf X (ehemals Twitter):

Die Zitate der Nature-Chief-Editorin Magdalena Skipper zur Frage, ob Zeitschriften im Rahmen des Peer-Review auch auf Fehler und Datenqualität prüfen sollten, überraschen mich doch sehr.

Und mit dieser Überraschung war sie bei weitem nicht allein. Diesen Beitrag weiterlesen »

Preprint- statt Journal-Clubs

8. November 2023 von Laborjournal

Die Zahl der Vorab-Ver­öf­fent­li­chungen von Forschungsergebnissen auf Preprint-Servern hat zuletzt rasant zugenommen – unter anderem auch stark befeuert durch die COVID-19-Pandemie. Zugleich betreiben die meisten akademischen Institutionen seit vielen Jahrzehnten die guten, alten „Journal Clubs“, in denen bereits begutachtete und publizierte Studienresultate kritisch besprochen werden. Warum angesichts dessen nicht zwei Fliegen mit einer Klappe schlagen, dachten sich offenbar vor drei Jahren eine Handvoll Jungforschende: Warum nicht gewisse Synergien erzeugen, indem man den „Journal Club“ in einen „Preprint Club“ umwandelt?

Ungefähr so entstand 2020 die Idee zu einem institutionsübergreifenden Preprint Club (preprintclub.com), um via Online-Treffen neue immunologische Studien zu bewerten, die auf den Preprint-Servern bioRxiv und medRxiv erschienen waren. Keimzelle waren junge Immunologinnen und Immunologen an der Icahn School of Medicine at Mount Sinai in New York City und der University of Oxford, später kamen weitere vom Stockholmer Karolinska-Institut und der University of Toronto hinzu.

Fünf von ihnen haben den Gründungsprozess und die Idee dahinter gerade in Nature (doi: 10.1038/d41586-023-01819-y) genauer beschrieben. Darin halten sie fest:   Diesen Beitrag weiterlesen »

Wo sind meine Paper hin?

18. Oktober 2023 von Laborjournal

Vielleicht sollte unser Forscher Ernst sich abends mit bestimmten Themen einfach nicht mehr beschäftigen …

 

(Gezeichnet von Rafael Florés. Über 200 weitere Labor-Abenteuer von „Forscher Ernst“ gibt es hier.)

 

Häufiger zitiert durch Twitter (X)?

27. September 2023 von Laborjournal

Dank Herrn Musk heißt Twitter heute bekanntlich X. Dennoch wird auch für X gelten, was ein US-Team gerade unter dem Titel „Controlled experiment finds no detectable citation bump from Twitter promotion“ veröffentlicht hat (bioRXiv, doi.org/kvk7). Demnach beobachteten die Beteiligten in ihrem Experiment keinen signifikanten Anstieg der Zitierzahlen von Forschungsartikeln, wenn diese zuvor auf Twitter angepriesen wurden.

Zitierzahlen interessieren den publizierenden Forscher respektive Forscherin natürlich sehr. Daher wundert auch kaum, dass zuvor bereits mehrere Handvoll ähnlicher Studien zum Thema durchgeführt wurden. Dummerweise jedoch lieferten diese in der Summe sehr gemischte Ergebnisse – von keinem Einfluss anpreisender Tweets auf die künftige Zitierrate (z.B. hier und hier) über allenfalls mäßige Folgen (z.B. hier und hier) bis hin zu einem deutlich positiven Effekt (z.B. hier und hier).

Jetzt also nochmal eine Studie zum gleichen Thema, wahrscheinlich die annähernd hundertste. Warum sollte man sich die überhaupt anschauen? Na ja, vielleicht weil sie gleich zu Beginn die allermeisten anderen erstmal in die Pfanne haut, indem es dort heißt:  Diesen Beitrag weiterlesen »

Besorgniserregende Stichproben

20. September 2023 von Laborjournal

„Wissenschaftsbetrug ist selten. Stimmt das eigentlich?“ Diese Frage stellte unser „Wissenschaftsnarr“ Anfang des Jahres in seiner Laborjournal-Kolumne (LJ 1-2/2023: 22-24). Und fasste ein Ergebnis seiner Recherche folgendermaßen zusammen:

Beispielsweise können mittlerweile wissenschaftliche Abbildungen automatisiert auf Manipulationen untersucht werden. Und tatsächlich zeigt die Anwendung dieser Techniken, dass mehr als vier Prozent aller biomedizinischen Publikationen Graphen und Abbildungen enthalten, die hochgradig verdächtig auf maligne Manipulationen sind – etwa die Verschiebung von Banden, Duplikationen, nicht plausible Fehlerbalken und so weiter. Diese Zahlen werden auch durch Arbeiten bestätigt, in denen Menschen die Abbildungen untersuchten.

Vier Prozent ist nicht selten. Noch schlimmer aber ist, dass in der Zwischenzeit weitere „Stichproben“ auf höhere Quoten kommen. So untersuchte beispielsweise ein fünfköpfiges Team der Universität Birmingham in Alabama, USA, insgesamt 67 Publikationen aus der rhinologischen Forschung mit dem KI-basierten Software-Tool Imagetwin auf potenziell unlauter duplizierte Immunofluoreszenz-Abbildungen (Int. Forum Allergy Rhinol., doi.org/ks6m). Bei 18 Artikeln schlug Image­twin Alarm. In neun davon charakterisierten die Autoren die Duplikationen daraufhin als „definitiv“, hinsichtlich der übrigen neun blieben sie bei „möglich, aber nicht vollends bestätigt“. Nimmt man nur erstere, bleibt folglich eine Manipulations-Quote von 12 Prozent.  Diesen Beitrag weiterlesen »

Neues von den Zombies

12. Juli 2023 von Laborjournal

Öfter schon haben wir über „Zombie-Paper“ gemeckert. Artikel also, die trotz erfolgter Retraction munter weiter zitiert werden. Beispielsweise hier, hier und hier.

Um das Problem klarzumachen, schrieben wir etwa:

Eigentlich ist man sich grundsätzlich einig in der Wissenschaft: Wird ein publiziertes Paper zurückgezogen („retracted“) – egal, ob aus ehrenhaften oder unehrenhaften Gründen –, dann gilt es augenblicklich als aus dem Scientific Record entfernt. Mit all seinen Daten und Schlussfolgerungen. Als hätte es nie existiert, als wären die Experimente nie gemacht worden.

Doch leider sieht die Realität gar nicht selten anders aus. Hartnäckig geistern zurückgezogene Veröffentlichungen als putzmuntere Zombies weiter durch den Wissenschaftsbetrieb – und treiben ihr Unwesen vor allem in den Referenzlisten nachfolgender Publikationen. Meist werden sie noch Jahre später zitiert, manche nach der Retraction sogar noch häufiger als vorher.

Jetzt präsentiert ein Team von fünf Informationswissenschaftlerinnen und -wissenschaftlern wieder eine neue Studie zum Thema: „Evolution of retracted publications in the medical sciences: Citations analysis, bibliometrics, and altmetrics trends“ (Account. Res., doi.org/kjfk). Dazu identifizierten sie in der Datenbank Scopus 840 Publikationen, die in den medizinischen Wissenschaften zwischen 2016 bis 2020 zurückgezogen wurden. Diese wurden bis August 2021 insgesamt 5.659 Mal zitiert, 1.559 dieser Zitierungen datierten deutlich nach der Retraktion des zitierten Artikels. Die Rate der „Zombie-Referenzen“ beträgt damit satte 27,5 Prozent.  … Hier geht’s weiter »

Nervige Zeit- und Geldverschwendung für Manuskripte

17. Mai 2023 von Laborjournal

„Mein Vollzeitjob besteht gerade darin, abgelehnte Manuskripte für eine andere Zeitschrift neu zu formatieren – und mich dabei superproduktiv zu fühlen.“

Viele werden sich wiederfinden in diesem nicht ganz ironiefreien Tweet, den der Ernährungsphysiologe Katsu Funai von der University of Utah Anfang des Jahres abschickte. Und er ist bei weitem nicht der Einzige, der auf Twitter über den enormen Zeitaufwand klagt, den es kostet, wenn man ein Manuskript, das man gemäß den Anforderungen einer Zeitschrift formatiert hat, für die Zweiteinreichung bei einer anderen Zeitschrift in ein völlig anderes Format umarbeiten muss.

„Haben Sie sich schon einmal gefragt, wie lange es dauert, Artikel für Zeitschrifteneinreichungen neu zu formatieren?“, fragte daher Megan Davies, Postdoc in der Epidemiologie der Universität Kopenhagen, ebenfalls auf Twitter. Und fuhr fort: „Wir haben uns das gefragt und beschlossen, darüber zu schreiben! Wir haben die verlorene Zeit und das verlorene Geld berechnet sowie Editoren und Forscher befragt – und einige neue Vorschläge für Formatierungsrichtlinien entwickelt.“

Das Ergebnis ist jetzt nachzulesen in dem Paper mit dem Titel „Saving time and money in biomedical publishing: the case for free-format submissions with minimal requirements“ (BMC Medicine 21: 172), bei dem Megan Davies als Co-Autorin fungiert. Demnach registrierten Seniorautor Tibor Varga und sein Team zunächst einmal unter „302 führenden biomedizinischen Fachzeitschriften […] eine große Vielfalt an Enreichungsanforderungen“. Und stellten nachfolgend fest: Diesen Beitrag weiterlesen »

Publizieren Editoren allzu leicht im eigenen Journal?

25. Januar 2023 von Laborjournal

 

 

Veröffentlichungen sind das Brot des Wissenschaftlers. Doch wer bestimmt, was veröffentlicht wird? In erster Linie die Editoren der betreffenden Forschungsblätter.

Über diese schreiben die fünf Autoren eines frischen Artikels mit dem Titel „Gender inequality and self-publication are common among academic editors“ (Nat Hum Behav, doi: 10.1038/s41562-022-01498-1):

Die Editoren spielen in diesem Prozess eine Schlüsselrolle, da sie das letzte Wort darüber haben, was veröffentlicht wird – und somit den Kanal kontrollieren, über den Wissenschaftler Prestige und Anerkennung erhalten. Darüber hinaus gehören die Herausgeber selbst zu den wissenschaftlichen Eliten, die von ihrer Community als Experten auf ihrem Gebiet anerkannt sind.

Editoren seien auf diese Weise nicht nur die „Gatekeeper“ der Wissenschaft, sondern suchen vielmehr selbst aktiv nach Möglichkeiten zur Veröffentlichung, führen die Autoren weiter aus. Schließlich arbeite die überwiegende Mehrheit von ihnen als aktive Forscher. Und da die Bewertung von Wissenschaftlern in hohem Maße von bibliometrischen Ergebnissen abhänge, stünden sie selbst unter einem gewissen Zwang, weiterhin eigene Originalarbeiten zu veröffentlichen.

Und wo tun sie das? Oftmals in den von ihnen herausgegebenen Zeitschriften. Was fast genauso oft zu Kontroversen führt. Denn wie die Autoren schreiben:

Solche Kontroversen werden durch die Möglichkeit angeheizt, dass die Beiträge der Editoren bevorzugt behandelt werden.

Und dies könne man durchaus als „Missbrauch des wissenschaftlichen Publikationssystems“ werten.  Diesen Beitrag weiterlesen »