To nie jest błąd, a naturalne zachowanie przeglądarki. Osobiście bym się zastanowił, czy na pewno to usuwać. Jeśli chodzi Ci o zabezpieczenie się przed np. dodaniem danych do bazy kilkukrotnie, to można pomyśleć o tzw. tokenach anty-CSRF.
Jest też wzorzec PRG, który może pomóc, jeśli już koniecznie nie chcesz możliwości ponownej wysyłki.