Die Eifelbibliothek ist aus den ehemals eigenständigen Büchereien des Eifelvereines und des GAV hervorgegangen. Beide Bestände waren bei Gründung der Vereine (1890, 1904) entstanden.
Mit der Konstituierung des Eifelmuseums 1921 wechselte die in Prüm, zeitweise in Trier untergebrachte Einrichtung des Eifelvereines nach Mayen in die Genovevaburg. Dort stand sie zusammen mit der Bibliothek des GAV der Arbeit im Museum zur Verfügung. Nach wechselnden Standorten in der Burg ist die Bibliothek seit 1985 im Westflügel der Unterburg, unmittelbar am Eingang des Eifelmuseums untergebracht.
Mit dem Neuausbau des Eifelmuseums (seit 2000) kommen ihr auch Aufgaben einer besonderen Museums-Infothek zu. Sie ergänzt seither das museumspädagogische Angebot und fungiert dort als wissenschaftliche Forschungseinrichtung.
Seit 2002 haben beide Vereine eine enge Kooperation auf dem Gebiet des landeskundlichen Bibliothekswesens in Form der Eifelbibliothek vereinbart. Die Eifelbibliothek hat sich zu einer öffentlichen Einrichtung gewandelt. Heute wird sie von weiten Kreisen der Bevölkerung genutzt.