La magnétocardiographie (MCG) et la magnétoencéphalographie (MEG) sont deux techniques d’imagerie non-invasives mesurant respectivement les champs magnétiques cardiaques et cérébraux. Les dispositifs actuels utilisent des capteurs supraconducteurs de haute performance mais nécessitant un dispositif de refroidissement cryogénique, engendrant de fortes contraintes tant techniques que financières. Les magnétomètres à pompage optique (OPM) tendent à constituer une réelle alternative. Parmi eux figurent ceux développés au CEA-LETI, basés sur l’utilisation de l’hélium 4. Cette thèse a pour objectif de développer des magnétomètres vectoriels à 4He (fonctionnant à température ambiante) dédiés aux applications MCG et MEG.Après une optimisation des paramètres-clés d’un prototype non-miniaturisé préexistant, une sensibilité inférieure à 100 fT/sqrt(Hz) a pu être obtenue suivant deux axes. Afin de respecter les besoins spécifiques de la MCG et de la MEG une étape de miniaturisation a dû être menée et une architecture gradient-métrique a été mise en place. Parallèlement, des tests précliniques menés à Clinatec nous ont permis de concevoir un nouveau conditionnement du prototype, ainsi qu’un système réduisant les perturbations magnétiques. Une analyse des principales sources de bruit a révélé que les deux principaux contributeurs au bruit sont le laser et le système de décharge HF. Nous avons ainsi envisagé plusieurs pistes d’amélioration du niveau de bruit dont une nouvelle technique de détection. Le prototype issu de ces travaux comporte une pièce élémentaire (la cellule) d’un centimètre de côté, et présente une sensibilité intrinsèque de 350 fT/sqrt(Hz).Le dispositif a ensuite été testé avec succès dans le cadre de mesures MCG sur un sujet sain, précédées de tests sur fantôme ayant permis de prouver l’opérabilité de nos capteurs dans un environnement clinique. Par ailleurs, la reproductibilité des résultats ainsi que la possibilité de réduire à 30 s le temps d’acquisition des données ont pu être démontrées. Une optimisation spécifique de la partie optique du prototype a permis d’obtenir une sensibilité de l’ordre de 210 fT/sqrt(Hz) entre 3 et 300 Hz, compatible avec l’application MEG. Après des tests menés avec succès sur fantôme, trois séries d’essais ont été réalisées sur un sujet sain. Nous avons pu ainsi détecter des potentiels évoqués auditifs, visuels ainsi qu’une modulation de l’activité cérébrale spontanée sous l’effet de l’ouverture des paupières. L’ensemble des résultats obtenus constitue les premières preuves de concept cliniques du dispositif en MCG et MEG.