Añadimos a a tabla del listado 1 columnas que van a ser un enlace con la palabra Borrar. Lo que añadimos es un enlace donde vamos a pasar el alumno que queremos borrar:

<td>Borrar

En el programa PHP simplemente recogemos el parámetro que le pasamos, el identificativo de alumno, y lo borramos. Añadimos el include para volver a sacar el listado.

borrar.php

<?php
    /// 1.- Nos conectamos con la BBDD
    $link=mysql_connect("localhost","root","root");

    /// 2.- Seleccionar la BBDD
    mysql_select_db("Colegio",$link);

    /// 3.- Ejecutamos la accion SELECT, UPDATE, INSERT y DELETE en nuestro caso SELECT
    $idalumno=$_GET[idalumno];
    if ($idalumno != "")
    {
        $query="DELETE FROM alumnos WHERE idalumno='$idalumno';";
        $result=mysql_query($query,$link);
    }
    ////4.- Cerrar la conexion
    mysql_close($link);
    include("listado.php");
?>

Próxima entrada