Ошибка TFramedTransport на PHPCassa + Cassandra - PullRequest
Новая
       27

Ошибка TFramedTransport на PHPCassa + Cassandra

1 голос
/ 31 марта 2011

Мы удаляем огромное количество записей на Кассандре.Мы получаем следующую ошибку.Мы также получаем эту ошибку, когда вставляем огромное количество записей: 

Error performing remove on 10.130.279.40:9160: exception 'TTransportException' with message 'TSocket: timed out reading 4 bytes from 10.130.279.40:9160' in /home/zonefiles/php/thrift/transport/TSocket.php:268
    Stack trace:
    0 /home/zonefiles/php/thrift/transport/TTransport.php(87): TSocket->read(4)
    1 /home/zonefiles/php/thrift/transport/TFramedTransport.php(135): TTransport->readAll(4)
    2 /home/zonefiles/php/thrift/transport/TFramedTransport.php(102): TFramedTransport->readFrame()
    3 [internal function]: TFramedTransport->read(8192)
    4 /home/zonefiles/php/thrift/packages/cassandra/Cassandra.php(691): thrift_protocol_read_binary(Object(TBinaryProtocolAccelerated), 'cassandra_Cassa...', false)
    5 /home/zonefiles/php/thrift/packages/cassandra/Cassandra.php(664): CassandraClient->recv_remove()
    6 [internal function]: CassandraClient->remove('CUSTOMERSERVICE...', Object(cassandra_ColumnPath), 1301555573936295, 1)
    7 /home/zonefiles/php/connection.php(230): call_user_func_array(Array, Array)
    8 /home/zonefiles/php/columnfamily.php(582): ConnectionPool->call('remove', 'CUSTOMERSERVICE...', Object(cassandra_ColumnPath), 1301555573936295, 1)
    9 /home/zonefiles/php/delete.php(34): ColumnFamily->remove('CUSTOMERSERVICE...')
    10 {main}
    Error connecting to 10.130.279.40:9160: exception 'TTransportException' with message 'TSocket: timed out reading 4 bytes from 10.130.279.40:9160' in /home/zonefiles/php/thrift/transport/TSocket.php:268
    Stack trace:
    0 /home/zonefiles/php/thrift/transport/TTransport.php(87): TSocket->read(4)
    1 /home/zonefiles/php/thrift/transport/TFramedTransport.php(135): TTransport->readAll(4)
    2 /home/zonefiles/php/thrift/transport/TFramedTransport.php(102): TFramedTransport->readFrame()
    3 [internal function]: TFramedTransport->read(8192)
    4 /home/zonefiles/php/thrift/packages/cassandra/Cassandra.php(1015): thrift_protocol_read_binary(Object(TBinaryProtocolAccelerated), 'cassandra_Cassa...', false)
    5 /home/zonefiles/php/thrift/packages/cassandra/Cassandra.php(992): CassandraClient->recv_describe_version()
    6 /home/zonefiles/php/connection.php(63): CassandraClient->describe_version()
    7 /home/zonefiles/php/connection.php(163): ConnectionWrapper->__construct('CDTMain1', '10.130.279.40:9...', NULL, true, 5000, 5000)
    8 /home/zonefiles/php/connection.php(254): ConnectionPool->make_conn()
    9 /home/zonefiles/php/connection.php(241): ConnectionPool->handle_conn_failure(Object(ConnectionWrapper), 'remove', Object(TTransportException), 1)
    10 /home/zonefiles/php/columnfamily.php(582): ConnectionPool->call('remove', 'CUSTOMERSERVICE...', Object(cassandra_ColumnPath), 1301555573936295, 1)
    11 /home/zonefiles/php/delete.php(34): ColumnFamily->remove('CUSTOMERSERVICE...')
    12 {main}

Вот PHP, который мы используем для генерации ошибки: 

<?php
set_time_limit(2000);
require 'connection.php';
require 'columnfamily.php';
$servers[0]['host'] = 'private ip';
$servers[0]['port'] = '9160';
$conn = new Connection('Server11', $servers);
$urlFamily = new ColumnFamily($conn, 'Domain'); // ColumnFamily

$start = microtime(true);

$limit = 100000000;

$rows = $urlFamily->get_range($key_start='', $key_finish='zzzzzzzzzzzzzzz',100000000);

$num = 0;
$delCount = 0;

foreach($rows as $key => $columns) {
   // Do stuff with $key or $columns
       if (strpos($key, ' .net') !== false) {
               //echo 'deleting ' . $key . "\n";
               $urlFamily->remove($key);
               $delCount++;
       }
       if ($num++ > 100000000) break;
       //$num++;
       if ($num % 100000 == 0) echo $num . "\n";
}

$end = microtime(true);

echo $num . " total\n";
echo $delCount . ' deleted in ' . ($end - $start) . " seconds\n";
echo $delCount / ($end - $start) . " deleted per second\n";

?>

Мы работаем PHP 5.3.5на Fedora 14 Laughlin and Thrift 0.5.0.

Одна теория состоит в том, что это вызвано тем, что Кассандра не может обрабатывать команды достаточно быстро.Вы согласны / не согласны?Вы видели это раньше?

Если вы рекомендуете удалить другим способом (например, Truncate), как мы по-прежнему предотвращаем возникновение этой проблемы, когда делаем другие вещи с Cassandra?

Ответы [ 2 ]

2 голосов
/ 01 апреля 2011

Это просто сообщения журнала или на самом деле возникает исключение? phpcassa вызывает error_log () каждый раз, когда подобное исключение перехватывается, прежде чем повторять попытку с другим соединением. По сути, это означает, что вы должны следить за следами стека, которые регистрируются, но вам не нужно слишком беспокоиться о них.

Это тайм-ауты сокетов на стороне клиента, что означает, что вызов занял больше времени, чем тайм-аут по умолчанию - 5 секунд. Почему именно это происходит, во многом зависит от того, как ведет себя Кассандра. Мониторинг Кассандры, пожалуй, лучшее место для начала.

0 голосов
/ 04 апреля 2011

По словам моего программиста, мы на самом деле исправили это, увеличив тайм-ауты до очень высокого значения. Мы пытались импортировать файл объемом 5 ГБ, поэтому я думаю, что дБ требовалось более 5 секунд на чтение.

Вот конкретные таймауты, которые были установлены:

$ send_timeout = 60000 $ Recv_timeout = 60000

...