根据全国人大常委会关于实行宪法宣誓制度的决定，下列人员中，在就职时应当进行宪法宣誓的有（ ）
A. 中华人民共和国教育部部长
B. 北京市人民检察院副检察长
C. 上海市人民政府办公厅会计
D.  中华人民共和国驻外全权代表
各级人民代表大会及县级以上各级人民代表大会常务委员会选举或者决定任命的国家工作人员，以及各级人民政府、人民法院、人民检察院任命的国家工作人员，在就职时应当公开进行宪法宣誓。

因此答案为ABD