Вы забыли добавить deg
к свойству css.
Вы также должны добавить transform origin
к изображению, чтобы оно вращалось вокруг центра (при условии, что это то, что вы пытаетесь сделать).
Этот код должен сделать это.
<!DOCTYPE html>
<html>
<head>
<title></title>
<style>
</style>
</head>
<body>
<div id="frame1" style="overflow:hidden" width='300' height='300'>
<div id="frame2" width='200' height='200'>
<img src='1.jpeg' id='im' src='1.jpeg' width='10' height='10'>
</div>
</div>
<script type="text/javascript">
rotate(frame2, 45);
function rotate (elem, deg)
{
if (navigator.appName=='Microsoft Internet Explorer')
{
rad = deg*Math.PI/180;
elem.style.filter="progid:DXImageTransform.Microsoft.Matrix(M11='1.0', sizingmethod='auto expand')";
elem.filters.item(0).M11 = Math.cos(rad);
elem.filters.item(0).M12 = -Math.sin(rad);
elem.filters.item(0).M21 = Math.sin(rad);
elem.filters.item(0).M22 = Math.cos(rad);
elem.style.marginLeft=((canvsize-elem.offsetWidth)/2)+'px'
elem.style.marginTop=((canvsize-elem.offsetHeight)/2)+'px'
}
else
{
elem.style.MozTransformOrigin = "5px 5px";
elem.style.WebkitTransformOrigin = "5px 5px";
elem.style.OTransformOrigin = "5px 5px";
elem.style.MsTransformOrigin = "5px 5px";
elem.style.transformOrigin = "5px 5px";
elem.style.MozTransform = 'rotate(' + deg + 'deg)';
elem.style.WebkitTransform = 'rotate(' + deg + 'deg)';
elem.style.OTransform = 'rotate(' + deg + 'deg)';
elem.style.MsTransform = 'rotate(' + deg + 'deg)';
elem.style.transform = 'rotate(' + deg + 'deg)';
}
}
</script>
</body>
</html>