Les origines du club canin remontent à 1949. A cette époque, quelques amis cynophiles ont créé le Cercle de Graffenstaden et ont rejoint la Société Canine du Bas-Rhin.
Quelques « anciens » se souviennent que les membres s’entrainaient sur une prairie située au bout de la rue des Vignes, près du canal. Un wagon tenait lieu de club-house.
En 1964, l’association a pris pour nom « Les Amis du Berger Allemand de Graffenstaden » (ABAG). Les statuts ont été adoptés le 7 novembre 1964.
Le club a d’emblée proposé des cours d’éducation.
La section RCI a vu le jour sous l’égide de messieurs Greyenbuhl, André Wirtz, Jean-Paul Frank et Francis Steinberger.
La section Agility a été créée en 2001, l’Obéissance en 2001, l’Obérythmée en 2006 puis la section FCI (pistage) en 2009.