离婚手续我与前女朋友认识2年没办结婚…

离婚手续我与前女朋友认识2年没办结婚证，现生了一个小孩，感情不合现在以分手，小孩户口已经上好了，在我家。后来认识一个新女朋友，打算年底结婚。请问我和之前女朋友要办离婚手续吗？或什么协议吗？……谢谢了