André Bernheim naît à Paris dans une famille originaire de Lorraine. Après avoir obtenu le diplôme de docteur en médecine de la Faculté de Paris, il s'installe dans le centre de la capitale et, après son mariage, il ouvre un cabinet, rue de Provence.
Voisin de la Grande Synagogue de la rue de la Victoire, il assiste régulièrement aux offices. Son intérêt pour le judaïsme l'incite à poser sa candidature à un siège d'électeur rabbinique. Il participe donc aux choix des rabbins de la communauté consistoriale, et en 1939 il contribue à l'élection d'Isaïe Schwartz au poste de grand rabbin de France.
Le docteur André Bernheim s'intéresse aussi au chant liturgique dont il est grand connaisseur.
Mais il est surtout connu comme un grand collectionneur d'œuvres d'art. Visitant les boutiques de brocanteurs, il commence à constituer sa collection d'objets du culte juif, public ou domestique, d'une si grande valeur qu'elle en a acquis une renommée mondiale. L'intérêt qu'il porte à ces objets l'amènera à faire partie de ceux qui, en 1946, fonderont le musée d'Art juif de la rue des Saules. Il possède une compétence remarquable dans l'identification et l'application des richesses synagogales.
De plus, il siège dans le jury du prix artistique A. Neumann, ce qui lui donne l'occasion de connaître et d'apprécier les artistes juifs contemporains.
Mobilisé en 1914, le Dr. Bernheim obtient la Croix de Guerre. Médecin du ministère de l'Éducation nationale, il est attaché au Lycée Carnot, tout proche de son dernier domicile, il sera décoré de la Légion d'honneur.
En 1939 il se porte volontaire pour reprendre du service dans le corps de santé militaire. Après la défaite, il s'installe à Lyon où le Consistoire central est replié, et il est invité à siéger dans cette institution. Dans les réunions ordinaires comme dans la quasi-clandestinité, il fait des conférences où il apporte les fruits de sa réflexion et de ses préoccupations pour la renaissance du judaïsme à la fin de la guerre.
Après la Libération, il se consacre au Séminaire de la rue Vauquelin. Il cherche à en faire une institution où l'on formera des rabbins savants et au courant des problèmes du monde, des ministres du culte à la voix harmonieuse, des maîtres d'instruction religieuse à la culture et à la pédagogie moderne. Mais de plus il veut que le séminaire devienne une véritable Faculté théologique juive, faisant rayonner la science et la pensée juives au-delà du cercle de la communauté d'Israël.
Soucieux de voir progresser les Communautés de France, il fonde en 1946 les Assises du judaïsme français et c'est avec une fougue juvénile qu'il préside tous les ans cette institution dont il espère voir naître un lien qui unira toutes les Cultuelles de France. Chaque année, à l'occasion de la session annuelle des Assise, il présente ses rapports sur les communautés avec lesquelles il entretient des contacts personnels et réguliers, aussi bien avec les rabbins qu'avec leurs dirigeants laïques.
Tout ce qui peut contribuer à faire connaître le judaïsme retient son attention : l'émission radiophonique Écoute Israël, la publication de livres, de revues, de périodiques juifs, des conférences dans communautés dépourvues de rabbins. Pour lui, le judaïsme doit être traditionnel, ouvert, représenté par des hommes de valeurs, capables, par la parole et par l'écrit, de s'égaler aux représentants des autres confessions.
Devenu vice-président du Consistoire central, c'est lui qui conduit la délégation de cette institution lors de l'ouverture de la synagogue Broglie de Strasbourg et lors de la consécration de la synagogue de la Paix.
Le Dr. André Bernheim, est décédé le 6 Tevet 5724 (1963), deux ans après sa femme, Marguerite. Il était le père de l'historienne Renée Neher-Bernheim. C'est elle qui héritera de sa collection d'art juif, et l'amènera avec elle en Israël, lorsqu'elle s'y installera en 1968.