Thị xã Ayun Pa được thành lập theo Nghị định số 50/2007/NĐ-CP ngày 30-3-2007 của Chính phủ. Theo Nghị định này, huyện Ayun Pa được chia tách để thành lập thị xã Ayun Pa (phía đông) và huyện Phú Thiện (phía tây).