В зависимости от вашего движка базы данных, вам, вероятно, просто нужно привести счет в десятичную или с плавающей точкой, прежде чем его усреднить.
возможный подход MySQL:
select CAST(
AVG(
CAST(score as decimal(8,1))
)
as decimal(8,1)
) as AverageScore
возможный подход mssql:
select convert(float(8,1), AVG( convert(float(8,1), score) ) ) as AverageScore