Articles

Estudios de replicación

Política de replicación

Royal Society Open Science cree que cuando una revista científica publica un estudio empírico asume la responsabilidad de la replicabilidad de ese estudio. Esta responsabilidad se refleja en la medida en que la revista se compromete a publicar intentos de replicación de estudios anteriores que aparecen en sus páginas.

Bajo la Política de Replicación de la revista, la sección de Psicología y Neurociencia Cognitiva de la Royal Society Open Science se comprometerá a publicar réplicas de estudios publicados previamente en esta revista y en otras revistas importantes. Los autores pueden enviar un estudio de replicación que ya está completado o una propuesta para replicar un estudio anterior. Para garantizar que el proceso de examen no esté sesgado por los resultados, las presentaciones se revisarán antes de que existan los resultados o con los resultados existentes redactados inicialmente. Para minimizar el sesgo en contra de los resultados negativos anticipados, los revisores no solo estarán ciegos a los resultados (donde ya existen), sino que también estarán ciegos en cuanto a si los resultados son conocidos (por los autores) de existir. Las presentaciones que describan réplicas cercanas, claras y válidas de la metodología original se ofrecerán en principio de aceptación, lo que prácticamente garantiza la publicación de la réplica independientemente del resultado del estudio.

  1. Guía de replicación para autores

  2. Guía de replicación para árbitros

Guía para Autores

  1. La Royal Society Open Science se compromete a publicar cualquier intento metodológicamente sólido de replicar cualquier estudio que se haya publicado en la sección de Psicología y Neurociencia Cognitiva de la revista, así como cualquier estudio en cualquiera de las siguientes revistas: Psiquiatría Biológica, Cerebro, Corteza Cerebral, Desarrollo Infantil, Corteza, Psicología Cognitiva, Cognición, Biología Actual, Psicología del Desarrollo, Ciencia del Desarrollo, Revista Europea de Neurociencia, Revista de Neurociencia Cognitiva, Revista de Psicología Social Experimental, Revista de Memoria y Lenguaje, Revista de Neurociencia, Revista de Personalidad y Psicología Social, Naturaleza, Naturaleza Comportamiento Humano, Neurociencia de la Naturaleza, Neuroimagen, Neurona, Neurociencia de la Conciencia, PLOS Biology, Actas de la Academia Nacional de Ciencias de los Estados Unidos, Ciencia Psicológica, Trimestral Journal of Experimental Psychology, Science, Social Psychological and Personality Science, y cualquier otra revista publicada por la American Psychological Association, la Association for Psychological Science, la British Psychological Society o la Royal Society. También consideraremos, caso por caso, consultas previas a la presentación para replicaciones de estudios publicados en revistas adicionales a las enumeradas aquí. Tenga en cuenta que los propios estudios de replicación son objetivos adecuados para la replicación.
  1. Los autores tienen la opción de elegir entre dos rutas para la consideración de los envíos: una pista » ciega a los resultados «en la que la introducción y el método de un estudio completado se revisan por pares mientras los resultados y la discusión se retienen temporalmente, o una pista» completamente pre-registrada » en la que el protocolo del estudio se revisa y se acepta previamente antes del comienzo de la recopilación de datos.
  1. Resultados ciego pista

3.1. Esta pista está destinada a autores que ya han completado un intento de replicación directa (cercana) de un estudio publicado dentro de la Royal Society Open Science, dentro de una de las revistas de origen enumeradas en la sección 1, o de cualquier otra revista aprobada caso por caso por los editores. Los autores deben presentar inicialmente un manuscrito parcial que contenga las secciones resumen, introducción y método, con los resultados y la discusión redactados junto con cualquier otra información (por ejemplo, en el resumen) que indique o implique los resultados de la investigación. La sección método debe estar escrita en pasado y debe incluir una relación completa y detallada de todos los procedimientos experimentales (incluidos los criterios de inclusión y exclusión de datos) y análisis. Obsérvese que la presentación posterior de la Etapa 2 no puede incluir los resultados de ningún análisis que no se indique en la presentación de la etapa 1 en el momento de la aceptación en principio. El manuscrito de la Etapa 1 debe enviarse utilizando el tipo de artículo de replicación. El envío debe ir acompañado de una carta de presentación al editor en la que se indique (a) que los autores están enviando un manuscrito de la Etapa 1 como artículo de replicación, (b) el estudio objetivo para la replicación, incluido el artículo de origen y la revista, (c) que el manuscrito se está enviando a través de la pista de resultados ciegos, señalando explícitamente que los autores ya conocen los resultados, (d) que los autores aceptan archivar todos los datos, códigos y materiales digitales anónimos en un repositorio de libre acceso en el momento de la aceptación de la Etapa 2, y (e) que los autores Registro retirado si retiran voluntariamente el envío después de la aceptación de principio de la Etapa 1 (con un Registro Retirado que consiste en el resumen de la presentación de la Etapa 1 más una razón para el retiro proporcionada por los autores o editores). Tenga en cuenta que si bien la carta de presentación debe indicar si los resultados son conocidos por los autores, el manuscrito de la Etapa 1 en sí no debe declarar o implicar que los autores ya conocen los resultados. Para minimizar el posible sesgo en contra de los hallazgos negativos previstos, los revisores en la primera ronda de revisión estarán ciegos tanto a los resultados como a la existencia de los mismos. Tenga en cuenta que los experimentos preliminares que motivaron el estudio de replicación no deben ser reportados en el manuscrito de la Etapa 1, aunque los autores pueden publicarlos en otro lugar (por ejemplo, artículo revisado por pares, servidor de preimpresión o repositorio) y remitirse a ellos en la introducción de la Etapa 1.

3.2. En la Etapa 1, el envío es considerado por los revisores que evalúan el contenido de acuerdo con los siguientes criterios Primarios y Secundarios:

  • Criterio Primario #1 de la Etapa 1: Si los autores proporcionan una descripción suficientemente clara y detallada de los métodos para que otro investigador replique de cerca los procedimientos experimentales propuestos y la canalización de análisis, y para evitar la flexibilidad no revelada en los procedimientos experimentales o la canalización de análisis.
  • Etapa 1 Criterio Primario # 2: Si el manuscrito describe un documento suficientemente válido (es decir, cerrado) y robusto (p. ej. replicación estadísticamente potente de los métodos de estudio originales y justificación para proporcionar una indicación de replicabilidad.
  • Etapa 1 Criterio Secundario # 1: La lógica, la justificación y la plausibilidad de las hipótesis propuestas.
  • Etapa 1 Criterio Secundario # 2: La solidez de la metodología y la canalización de análisis.
  • Criterio secundario #3 del estadio 1: Si los autores han considerado suficientes condiciones neutras en los resultados (por ejemplo, ausencia de efectos en el suelo o el techo; controles positivos; otros controles de calidad) para asegurar que los resultados obtenidos son capaces de probar las hipótesis expuestas.

De los criterios de la Etapa 1 anteriores, las decisiones editoriales se basarán únicamente en los Criterios Primarios. En algunos casos, los métodos publicados del estudio original pueden no proporcionar suficiente detalle para permitir una réplica cercana (Criterio Primario #1 de la Etapa 1), y los autores originales del estudio también pueden no estar dispuestos o ser incapaces de proporcionar la información necesaria que falta. En tales casos, se aceptarán estimaciones de los procedimientos originales siempre que los autores puedan establecer que el método elegido es una estimación razonable del enfoque original, y siempre que (cuando corresponda) puedan proporcionar pruebas documentales al editor, como correos electrónicos, que prueben cualquier intento de obtener dicha información de los autores originales.

Con la excepción de un escenario específico que se discute a continuación, los comentarios de los revisores con respecto a los Criterios Secundarios no influirán en la decisión de publicar. En cambio, cuando los editores creen que cualquier cuestión crítica planteada dentro de estas categorías es válida, es posible que se requieran acciones adicionales. Las acciones específicas dependerán de la gravedad de las preocupaciones, evaluadas de acuerdo con tres «niveles de amenaza»: menor, mayor y grave. Para evitar el sesgo de publicación, estas evaluaciones se realizarán antes de que se conozcan los resultados.

Para las preocupaciones que los editores consideren menores, se requerirá que los autores discutan las limitaciones necesarias en la introducción (y / o más adelante en la discusión en la Etapa 2).

Para las preocupaciones importantes que limitan sustancialmente (pero no eliminan) la interpretabilidad de cualquier resultado potencial, también se puede publicar una nota editorial de advertencia junto con el informe final. Por ejemplo, cuando los revisores identifican un defecto en la metodología del estudio original en replicación (Criterio Secundario #1 o #2 de la Etapa 1), además de una discusión obligatoria de la limitación por parte de los autores, se puede publicar un comentario editorial con el artículo final que resalte la limitación del trabajo original. En tales casos, también se alentaría a los autores (pero no se les exigiría) a preinscribir un estudio de replicación adicional a través de la vía Completamente Preinscrita (ver más abajo) en la que el procedimiento se asemeje lo más posible al estudio original, pero con el defecto corregido. Los mismos requisitos y opciones de autor se aplicarían en los casos en que la replicación carezca de un control positivo apropiado u otro control de calidad independiente (Criterio Secundario #3 de la Etapa 1).

Para preocupaciones graves que impiden una interpretación significativa de los resultados, el curso de acción se determinará por la publicación de la fuente del estudio original. Para los estudios publicados en revistas que no sean de la Royal Society Open Science, las presentaciones de la etapa 1 con fallas graves solo se aceptarán si los autores aceptan registrar previamente (a través de la pista Completamente Pre-Registrada) un estudio correctivo adicional dentro del mismo artículo que intente corregir los problemas identificados. En los casos en que los autores no quieran o no puedan hacerlo, es probable que se rechacen las presentaciones de la Etapa 1. Sin embargo, para garantizar que Royal Society Open Science siga siendo responsable del estándar de trabajo que publica, se permitirán los intentos de replicación, incluso de estudios gravemente defectuosos que se publicaron originalmente dentro de la revista, sin el requisito de que los autores pre-registren un estudio correctivo adicional. En su lugar, al igual que con los envíos que se consideran que contienen preocupaciones importantes (pero no graves), los autores deberán incluir una discusión sobre el defecto grave, y el artículo final irá acompañado de una nota editorial de advertencia.

Estas contingencias se resumen en el cuadro que figura a continuación (véase también el diagrama de flujo de trabajo que figura a continuación).

Esta tabla también está disponible para descargar.

Aparte del escenario descrito anteriormente para preocupaciones graves, los manuscritos de la etapa 1 se rechazarán de plano después de una revisión en profundidad solo si las revisiones indican que el intento de replicación no cumplió con los estándares metodológicos suficientes, como poder estadístico insuficiente o desviaciones críticas de la metodología original (Criterios Primarios #1 y #2 de la Etapa 1). No se requiere un nivel fijo de potencia estadística, pero cuando los autores proponen métodos estadísticos frecuentistas, la potencia se evaluará caso por caso antes de que se conozcan los resultados. También se puede requerir a los autores que revisen su presentación en la Etapa 1 para agregar los detalles necesarios a la metodología reportada o para alterar los análisis. La descripción de los métodos debe ser lo suficientemente elaborada para proporcionar una descripción interna completa de todos los métodos empleados, sin que el lector tenga que examinar los detalles metodológicos específicos del estudio original.

Cuando el intento de replicación está motivado por una serie de experimentos preliminares, los autores pueden publicarlos en otro lugar (por ejemplo, en un servidor de preimpresión o en otra revista) y luego remitirse brevemente a ellos en el manuscrito de la Etapa 1, por ejemplo para justificar la decisión de realizar una replicación directa. Obsérvese, sin embargo, que no se requiere justificación para una reproducción ni se considera motivo de aceptación. El manuscrito de la Etapa 1 no debe incluir descripciones detalladas de los métodos de ningún estudio que no sea el estudio de replicación en sí, y no debe informar de ningún dato piloto o preliminar (pero, por supuesto, puede referirse a hallazgos reportados en otros lugares). Los envíos de la etapa 1 se limitan estrictamente a la introducción y los métodos de los intentos de replicación y los autores también deben tener cuidado de asegurarse de que cualquier material externo vinculado no anticipe los resultados de la replicación directa.

Si el manuscrito se revisa favorablemente de acuerdo con los Criterios Primarios de la Etapa 1, se otorgará la aceptación de principio (IPA). A continuación, se requiere que los autores preinscriban formalmente su manuscrito aprobado en el OSF en https://osf.io/rr/ (señalando que es un tipo de artículo ciego de Replicación de Resultados en RSOS) y se les invita a enviar un manuscrito de Etapa 2 que incluya el contenido del manuscrito de Etapa 1 aprobado más los resultados y la discusión y la URL del protocolo preinscrito. Si los autores retiran su manuscrito después de la adjudicación de la IPA, la revista publicará una Inscripción Retirada que incluirá el resumen de la presentación de la Etapa 1, un enlace a la URL del protocolo preinscrito, además de una razón para la retirada suministrada por los autores o los editores.

3.3. En la Etapa 2, el manuscrito se devuelve a los revisores de la Etapa 1 original que evalúan el contenido de acuerdo con los siguientes criterios Primarios y Secundarios:

  • Criterio Primario #1 de la Etapa 2: Si la introducción y los métodos son los mismos que la presentación de la Etapa 1 aprobada (obligatorio).
  • Etapa 2 Criterio primario # 2: Si las conclusiones de los autores están justificadas dados los datos.
  • Criterio Secundario #1 de la etapa 2: Si los datos son capaces de probar las hipótesis propuestas por los autores al pasar los criterios neutrales de resultados aprobados (como la ausencia de efectos de piso y techo o el éxito de los controles positivos u otros controles de calidad). El incumplimiento de estas condiciones no conducirá al rechazo del manuscrito, pero podría requerir que los autores reconozcan explícitamente tales limitaciones en su discusión, y en casos graves también podría conducir a la publicación de una nota de advertencia editorial adjunta.

De los criterios de la Etapa 2 anteriores, las decisiones editoriales se basarán únicamente en los Criterios Primarios. Los comentarios sobre el Criterio Secundario # 1 no influirán en la decisión de publicar, pero podrían requerir advertencias adicionales por parte de los autores (en la discusión) o podrían ser anotados por los editores en una nota de advertencia adjunta.

Los manuscritos de la Etapa 2 serán rechazados solo cuando el envío incluya cambios no aprobados en el manuscrito aprobado de la Etapa 1 o cuando se considere que las conclusiones de los autores se extienden más allá de lo permitido por los resultados y cuando tales diferencias de opinión entre los autores y los revisores/editores no puedan conciliarse.

3.4. El artículo final de la Etapa 2 se publicará como una Réplica de Resultados a ciegas.

  1. Totalmente Preinscritos pista

4.1. Esta pista es similar al proceso de resultados ciegos, pero está destinada a autores que aún no han intentado replicar un estudio publicado en Royal Society Open Science, en una de las revistas de origen enumeradas en la sección 1 o en cualquier otra revista aprobada por los editores. Los autores deben presentar inicialmente un manuscrito parcial que contenga las secciones resumen, introducción y método. A pesar de que el protocolo es prospectivo, el manuscrito y los métodos deben escribirse en tiempo pasado. En todos los demás aspectos, las opciones y los requisitos son los mismos que para los resultados: seguimiento ciego. El manuscrito de la Etapa 1 debe ser enviado a través del tipo de artículo de Replicación. El envío debe ir acompañado de una carta de presentación al editor indicando (a) que los autores están enviando un manuscrito de la Etapa 1 a través de la opción de artículo de replicación, (b) el estudio objetivo para la replicación, incluido el artículo de origen y la revista, y (c) que el manuscrito se está enviando antes de la recolección de datos, (d) que los autores aceptan archivar todos los datos, códigos y materiales digitales en un repositorio de acceso libre en el punto de aceptación de la Etapa 2, y (e) que los autores aceptan la publicación de un Registro Retirado si retiran voluntariamente el envío después de Aceptación de principio de la Etapa 1 (con un Registro Retirado que consiste en el resumen de la presentación de la Etapa 1 más un motivo de la retirada proporcionado por los autores o editores). Tenga en cuenta que, si bien la carta de presentación debe indicar si se conocen los resultados, el manuscrito de la Etapa 1 en sí no debe declarar explícitamente que los autores no conocen los resultados. Como se señala en la sección 3.1, esto se debe a que los revisores de la primera ronda de revisión no ven los resultados ni la existencia de los mismos.

Las presentaciones de la Etapa 1 y la Etapa 2 se evaluarán de acuerdo con los mismos Criterios Primarios y Secundarios que para el seguimiento a ciegas de los resultados (véanse los puntos 3.2 y 3.3 supra). Después del IPA, los autores deben pre-registrar formalmente su manuscrito aprobado en el OSF at (teniendo en cuenta que es un tipo de artículo Pre – Registrado con Replicación Completa en RSOS). Luego, se invita a los autores a enviar un manuscrito de la Etapa 2 una vez que se haya completado el estudio, que incluya el contenido del manuscrito aprobado de la Etapa 1, más los resultados y la discusión y la URL del protocolo preinscrito.

4.2. El documento final de la Etapa 2 se publicará como Réplica, Totalmente Pre-Registrado.

Flujo de trabajo de directiva de replicación

Este flujo de trabajo también se puede descargar para su visualización.

Directrices para Revisores

Las réplicas son un nuevo formato de artículo de investigación que se ofrece como parte de la Política de Replicación de la revista. Bajo esta política, la revista se compromete a publicar intentos de replicación de estudios dentro de los campos de la psicología o la neurociencia cognitiva que se publicaron previamente en Royal Society Open Science o en una de varias otras revistas importantes.

Los estudios de replicación en estadio 1 se pueden enviar con resultados conocidos por los autores (y editados temporalmente) o antes de que se hayan recopilado los datos. El proceso de revisión por pares es inicialmente ciego a cuál de estos dos escenarios se aplica y todos los manuscritos de la Etapa 1 se envían en tiempo pasado, independientemente de si los datos ya se han recopilado. Los manuscritos se vuelven a revisar en la etapa 2 después de que se conozcan los resultados.

En la Etapa 1, la presentación se evalúa con arreglo a los siguientes criterios primarios y secundarios. En la mayoría de los casos, la decisión de publicar se basa en la evaluación de los criterios primarios, y la evaluación de los criterios secundarios determina si el intento de reproducción final se publica junto con una nota editorial de advertencia. Sin embargo, las fallas graves en los criterios secundarios pueden llevar al rechazo si el trabajo que se está replicando se publicó en una revista que no sea la Royal Society Open Science.

  • Criterio primario #1 del estadio 1: Si los autores proporcionan una descripción suficientemente clara y detallada de los métodos para que otro investigador pueda replicar de cerca los procedimientos experimentales propuestos y la canalización de análisis, y para evitar una flexibilidad no revelada en los procedimientos experimentales o la canalización de análisis.

  • Etapa 1 Criterio Primario #2: Si el manuscrito describe una replicación suficientemente válida (es decir, cercana) y robusta (por ejemplo, estadísticamente potente) de los métodos de estudio originales y la justificación para proporcionar una indicación de replicabilidad.

  • Criterio secundario de estadio 1 #1: La lógica, justificación y plausibilidad de las hipótesis propuestas.

  • Etapa 1 Criterio Secundario #2: La solidez de la metodología y el pipeline de análisis.

  • Etapa 1 Criterio secundario # 3: Si los autores han considerado suficientes condiciones neutras de resultados (por ejemplo, ausencia de efectos de piso o techo, controles positivos, otros controles de calidad) para garantizar que los resultados obtenidos puedan probar las hipótesis expuestas.

En la Etapa 2, el manuscrito se devuelve a los revisores originales de la Etapa 1, que evalúan el contenido de acuerdo con los siguientes criterios Primarios y Secundarios. Una vez más, la decisión de publicar se basa en los criterios primarios, y la evaluación del criterio secundario influye en si se adjunta o no una nota editorial de advertencia.

  • Criterio primario #1 de la Etapa 2: Si la introducción y los métodos son los mismos que la presentación aprobada de la Etapa 1 (obligatorio).

  • Criterio primario #2 del estadio 2: Si las conclusiones de los autores están justificadas dados los datos.

  • Criterio Secundario #1 de la etapa 2: Si los datos son capaces de probar las hipótesis propuestas por los autores al pasar los criterios neutrales de resultados aprobados (como la ausencia de efectos de piso y techo o el éxito de los controles positivos u otros controles de calidad). El incumplimiento de estas condiciones no conducirá al rechazo del manuscrito, pero podría requerir que los autores reconozcan explícitamente tales limitaciones en su discusión, y en casos graves también podría conducir a la publicación de una nota de advertencia editorial adjunta.

Ir al principio