Я не уверен, что вы хотели именно это в пользовательской функции, но вот версия, использующая только встроенные свойства цикла. В animOut происходит волшебство, обеспечивающее функциональные возможности slideUp и fadeOut. Надеюсь это поможет.
$('#slideshow').cycle({
fx: 'custom',
cssBefore: {
left: 0,
top: 0,
width: 0,
height: 0,
opacity: 1,
display: 'block'
},
animOut: {
opacity: 0,
top: -50
},
animIn: {
left: 0,
top: 0,
width: 200,
height: 200
},
cssAfter: {
zIndex: 0
},
delay: -3000
});