Попробуйте:
$('#myarea')[0].selectionStart;
Почему? Селектор jQuery возвращает не фактические элементы DOM, а упакованную коллекцию jQuery. jQuery делает фактические элементы DOM доступными в виде массива, поэтому, если вы хотите использовать 1-й сопоставленный элемент (и в данном случае единственный, так как он по идентификатору), вы бы сделали выше.