Jestem ciekaw na jaki to poradnik natrafiłaś, że stosujesz jeszcze mysql_* ;)
Przejdź na jasną stronę mocy z PDO, albo w ostateczności możesz też przejść na mysqli (patrz Krecika odp).
Przykład z PDO
$dbHandle = new PDO("mysql:host=$dbHost;dbname=$dbName;charset=utf8", $dbUser, $dbPass,
[PDO::MYSQL_ATTR_INIT_COMMAND => "SET NAMES 'utf8'"]);
ew pokombinuj z 'SET NAMES utf8', "SET CHARACTER_SET utf8_polish_ci"
i zobacz czy plik masz na UTF-8 bez BOM. ( domyślnie każde IDE teraz tworzy plik o kodowaniu UTF-8 )

+ zamiast
$nick =htmlentities($nick, ENT_QUOTES, "UTF-8");
$mail =htmlentities($mail, ENT_QUOTES, "UTF-8");
$tresc =htmlentities($tresc, ENT_QUOTES, "UTF-8");
$nick = mysql_real_escape_string($_POST['nick']);
$mail = mysql_real_escape_string( $_POST['mail']);
$tresc = mysql_real_escape_string( $_POST['tresc']);
to :
$nick = filter_input(INPUT_POST,'nick', FILTER_SANITIZE_STRING );
$mail = filter_input(INPUT_POST,'mail', FILTER_VALIDATE_EMAIL );
$tresc = filter_input(INPUT_POST,'tresc', FILTER_SANITIZE_STRING );