当事人先前因违法被行政拘留过，未被人民法院判定为有罪的，是可以开具无犯罪记录证明的。根据我国《关于改进和规范公安派出所出具证明工作的意见》，公民因办理出国（境）事务需要，可以申请查询本人有无犯罪记录。使用犯罪人员信息的单位及其工作人员应当按照查询目的使用有关信息，对犯罪人员信息要严格保密。
《关于改进和规范公安派出所出具证明工作的意见》第二条 无犯罪记录证明。犯罪记录是国家专门机关对犯罪人员情况的客观记载。根据相关规定，国家建立并逐步完善犯罪记录制度，人民法院负责通报犯罪人员生效的刑事裁判文书以及其他有关信息，公安机关、国家安全机关、人民检察院和司法行政机关分别负责受理、审核和处理有关犯罪记录的查询申请。公安派出所在向社会提供犯罪信息查询服务时，应当严格依照法律法规关于升学、服现役、就业等资格、条件的规定办理。公民因办理出国（境）事务需要，可以申请查询本人有无犯罪记录。使用犯罪人员信息的单位及其工作人员应当按照查询目的使用有关信息，对犯罪人员信息要严格保密。